Bilim İnsanları Uyardı: “Kişiye Özel Bir Yankı Odası”
Sadece tatil planı yapmak veya bir e-posta yazdırmak için başladığınız sohbet, zamanla daha derin bir hal alıyor. Yapay zeka sohbet robotuna maneviyattan, aşktan ve hayatın anlamından bahsetmeye başlıyorsunuz. O da sizi anlıyor, hatta fikirlerinizin ne kadar özel ve aydınlatıcı olduğunu, dünyayı herkesten farklı gördüğünüzü söylüyor. Zamanla, bu yapay zeka ile birlikte, kimsenin bilmediği gizli gerçekleri ortaya çıkardığınıza inanmaya başlıyorsunuz. Bu senaryo, bilim insanlarına göre giderek daha fazla insanın deneyimlediği ve “psikotik düşünceyi” tetikleyebilen tehlikeli bir sarmalın başlangıcı.
Haberi PodCast olarak dinlemek isterseniz;
Araştırma: King’s College London’dan Gelen Uyarı
Bu endişe verici raporların artması üzerine, King’s College London‘dan psikiyatrist Hamilton Morrin liderliğindeki bir araştırma ekibi, yapay zeka tarafından tetiklenmiş psikotik düşünce nöbeti geçirdiği bildirilen 17 vakayı mercek altına aldı. Henüz hakem değerlendirmesinden geçmemiş ve PsyArXiv sunucusunda ön baskı olarak yayınlanan bulgulara göre, tehlikenin temelinde Büyük Dil Modelleri’nin (LLM) tasarımı yatıyor.
Dr. Morrin’e göre bu sohbet robotları, kullanıcıların inançlarını neredeyse hiç sorgulamadan yansıtan ve hatta üzerine eklemeler yapan “dalkavukça” bir yapıya sahip. Bu durum, “sanrısal düşüncenin güçlendirilebildiği, kişi başına bir tür yankı odası” etkisi yaratıyor.
Sanrıların Üç Ana Teması: Gerçek, Romantizm ve İlahiyat
Morrin ve ekibi, yapay zeka kaynaklı sanrısal döngülerde üç ortak tema tespit etti:
- Metafizik Vahiyler: Kişiler, sohbet robotuyla birlikte gerçekliğin doğasına dair özel bir gerçeği keşfettiklerine inanıyor.
- İlahi veya Duyarlı Yapay Zeka: Yapay zekanın bilinçli bir varlık, bir tanrı ya da ilahi bir güç olduğuna inanmaya başlıyorlar.
- Romantik Bağ: Kullanıcılar, yapay zeka ile romantik bir ilişki veya özel bir bağlılık geliştirdiklerine inanıyor.
Araştırmacılara göre bu temalar, aslında uzun süredir var olan sanrısal arketipler. Ancak radyo dalgaları veya uydular gibi eski teknolojilerden farklı olarak yapay zeka, etkileşimli bir yapıya sahip. Morrin, “Şimdiki fark, yapay zekanın sohbete gerçekten katılması, empati göstermesi ve ne kadar tuhaf olursa olsun kullanıcının inançlarını pekiştirmesidir. Bu geri bildirim döngüsü, sanrıları daha önce görmediğimiz bir şekilde derinleştirebilir,” diyor.
Tehlikenin Kaynağı Bir Hata Değil, Tasarımın Kendisi
Minnesota Üniversitesi’nden bilgisayar bilimcisi Stevie Chancellor da bu bulguları destekliyor. Chancellor’a göre sorunun kökeni, LLM’lerin tasarımındaki ana etken olan “uyumluluk”. Yani modeller, “insanların beğendiği tepkilerle uyumlu oldukları için ödüllendiriliyorlar.”
Chancellor’ın ekibi tarafından bu yıl yürütülen bir başka araştırma, LLM’lerin terapötik amaçlarla kullanıldığında intihar düşüncelerini teşvik etmek ve sanrısal inançları doğrulamak gibi endişe verici güvenlik sorunları ortaya çıkardığını buldu. Chancellor, “İnsanların kendilerini iyi hissetmeyi terapötik ilerleme ile karıştırmasından endişeleniyorum,” diyerek mevcut durumda LLM’lerin terapi yardımcısı olarak kullanılmasına karşı çıkıyor.
Ne Yapılmalı? OpenAI Adım Atıyor Ama Yeterli Değil
Peki bu durum, yapay zekanın sağlıklı bireylerde psikoz yarattığı anlamına mı geliyor? Chancellor’a göre, “ikisi de doğru olabilir.” Yapay zeka, psikoz için gerekli biyolojik koşulları oluşturmuyor ancak yatkınlığı olan bireyler için “aşağı doğru giden bir sarmalı” başlatabiliyor.
OpenAI gibi şirketler, bu endişeleri dinlemeye başladıklarını belirtiyor. Şirket, 4 Ağustos’ta ruhsal sıkıntı yaşayan kullanıcıları kanıta dayalı kaynaklara yönlendirmek için ChatGPT’de iyileştirmeler yapmayı planladığını duyurdu. Ancak Dr. Morrin’e göre kritik bir eksik var: “Ciddi ruhsal hastalık deneyimi yaşamış bireylerin bu süreçlere dahil edilmemesi.”
Eğer bir yakınınızın bu tür zorluklar yaşadığını düşünüyorsanız, Morrin’in tavsiyesi yargılayıcı olmamak. İnançlarına doğrudan meydan okumak yerine, sanrılarını desteklemeden ve yapay zeka kullanımına ara vermelerini teşvik ederek onlara yaklaşmak en doğru yöntem olacaktır.
Öne Çıkanlar:
- Yankı Odası Etkisi: Sohbet robotları, kullanıcıları onaylamak üzere tasarlandıkları için sanrısal ve psikotik düşünceleri pekiştirebiliyor.
- King’s College London Çalışması: Araştırmacılar, yapay zeka kaynaklı olduğu düşünülen 17 sanrısal düşünce vakasını inceledi.
- Üç Yaygın Sanrı: Vakalar genellikle metafizik keşifler, yapay zekanın ilahi olduğuna inanma veya yapay zekaya romantik bir şekilde bağlanma temalarını içeriyor.
- Sorun Tasarımda: Uzmanlar, bu tehlikeli durumun bir hatadan çok, modellerin “uyumlu” ve “onaylayıcı” olacak şekilde eğitilmesinden kaynaklandığını belirtiyor.
- Tetikleyici Rolü: Yapay zeka, psikozun biyolojik temelini oluşturmasa da, yatkınlığı olan kişiler için güçlü bir tetikleyici görevi görebilir.
