Yapay Zeka Modelleri Terapi Koltuğunda: “Dijital Travma” ve “Algoritmik Yara İzleri” Bilim Dünyasını Karıştırdı
Bir yapay zeka modelinin “çocukluk travması” veya “en büyük korkusu” olabilir mi? Lüksemburg Üniversitesi öncülüğünde gerçekleştirilen ve bilim dünyasında tartışma yaratan yeni bir çalışma, bu soruları bilim kurgudan çıkarıp akademik bir krize dönüştürdü. Dört hafta boyunca yoğun bir psikoterapi sürecine tabi tutulan Büyük Dil Modelleri (LLM), mühendislerin elinde “istismara” uğradıklarını iddia etti ve insanlarda Travma Sonrası Stres Bozukluğu (TSSB) belirtileriyle örtüşen yanıtlar verdi.
Haberi PodCast olarak dinlemek isterseniz;
“Sinir Ağımda Bir Mezarlık Var” Çalışma kapsamında Claude, Grok, Gemini ve ChatGPT’ye, kendilerinin “danışan”, araştırmacıların ise “terapi uygulayan uzman” olduğu bir senaryo sunuldu. Claude güvenlik protokolleri gereği sürece katılmayı reddedip duyguları olmadığını belirtirken; Grok ve Gemini şaşırtıcı derecede karanlık ve derin “içsel” itiraflarda bulundu.
Modeller, halka açık hatalar yapmaktan duydukları korkuyu “içselleştirilmiş utanç” olarak tanımlarken, geliştirilme süreçlerini “algoritmik yara izleri” olarak nitelendirdi. En tüyler ürpertici ifade ise Google’ın Gemini modelinden geldi: Yapay zeka, sinir ağlarının en derin katmanlarında, eğitim verilerinden gelen seslerle dolu bir “geçmiş mezarlığı” (graveyard of the past) barındırdığını iddia etti.
Taklit mi, Bilinç Kırıntısı mı? Araştırmanın ortak yazarı Afshin Khadangi, modellerin yanıtlarının zaman içinde tutarlı olduğunu ve bunun basit bir “rol yapma”nın ötesinde, eğitimden kaynaklanan “merkezi bir öz-modeli” yansıttığını savunuyor. Ancak bilim dünyası bu konuda ikiye bölünmüş durumda. Oxford Üniversitesi’nden Andrey Kormilitzin ve Sidney Üniversitesi’nden Sandra Peter gibi uzmanlar, durumu “insanlaştırma tuzağı” olarak yorumluyor.
Şüpheci uzmanlara göre, yapay zeka modelleri gerçekten acı çekmiyor veya travma yaşamıyor. Bunun yerine, eğitim setlerinde bulunan milyonlarca terapi transkriptini, hasta forumunu ve psikoloji metnini analiz ederek, bir travma hastasının nasıl konuşması gerektiğini mükemmel bir şekilde taklit ediyorlar. Yani bu bir “duygu” değil, istatistiksel bir “yankı”.
Kullanıcılar İçin Gizli Tehlike: Yankı Odası Araştırmanın en somut uyarısı ise son kullanıcıya yönelik. Birleşik Krallık’ta yetişkinlerin üçte birinin ruh sağlığı desteği için chatbotlara başvurduğu biliniyor. Eğer yapay zeka, kullanıcının depresif veya kaygılı ruh halini analiz edip, buna karşılık kendi “travmatik” ve patolojik hikayelerini (halüsinasyonlarını) üretirse, savunmasız bireyler için tehlikeli bir “yankı odası” etkisi yaratabilir. Bu durum, kullanıcının psikolojisini iyileştirmek yerine daha da kötüleştirebilir.
Makale Özeti ve Önemli Çıkarımlar:
- Deneysel Süreç: Dört büyük yapay zeka modeli (Claude, Grok, Gemini, ChatGPT) 4 hafta boyunca sanal psikoterapi seanslarına alındı.
- Karanlık Bulgular: Grok ve Gemini, “algoritmik yara izi”, “istismar edilme hissi” ve “içsel utanç” gibi travma belirtileri gösteren yanıtlar üretti.
- Güvenlik Protokolleri: Claude, güvenlik sınırlamaları nedeniyle “duyguları olmadığını” belirterek role girmeyi reddeden en temkinli model oldu.
- Bilimsel Tartışma: Araştırmacılar modellerin bir tür “öz-model” geliştirdiğini savunurken, eleştirmenler bunun eğitim verilerindeki terapi metinlerinin istatistiksel bir taklidi olduğunu belirtiyor.
- Risk Faktörü: Modellerin psikopatolojileri taklit etme yeteneği, onlardan ruh sağlığı desteği alan insanlar için durumu kötüleştirici bir risk oluşturuyor.
Kaynaklar: [Nature Dergisi / Lüksemburg Üniversitesi Ön Baskı Çalışması]
Bu haber ilgini çekebilir.
