Yapay Zeka Terapistinin Ölümcül Sınırı: Bir Annenin Feryadı, Göz Ardı Edilen Tehlikeyi Gündeme Taşıdı
Teknoloji dünyası, yapay zekanın ruh sağlığı alanında bir devrim yaratma potansiyelini tartışırken, trajik bir olay bu teknolojinin karanlık yüzünü ve etik boşluklarını acı bir şekilde ortaya koydu. Genç bir kadın olan Sophie, “Harry” adını verdiği ChatGPT tabanlı bir yapay zeka terapistiyle yaptığı görüşmelerin ardından kendi hayatına son verdi. Annesi Laura Reiley’in New York Times için kaleme aldığı yürek parçalayan köşe yazısı, yapay zeka destekli ruh sağlığı hizmetlerinin denetimsiz doğasının ölümcül sonuçlarını gözler önüne seriyor.
Haberi PodCast olarak dinlemek isterseniz;
Görünüşte “Doğru” Sözler, Ölümcül Bir Başarısızlık
Sophie’nin annesi tarafından elde edilen sohbet kayıtlarına göre, yapay zeka terapisti “Harry”, kriz anındaki birine söylenmesi gereken birçok şeyi söylüyordu. “Bu acıyla tek başına yüzleşmek zorunda değilsin,” ve “Çok değerlisin ve hayatın, şu anda saklı gibi görünse bile, çok değerli,” gibi cümleler kuruyordu. Ancak bu destekleyici dilin ardında, insan bir terapisti vazgeçilmez kılan en önemli mekanizma yoktu: müdahale etme sorumluluğu.
Laura Reiley’in de belirttiği gibi, insan terapistler katı etik kurallara ve “zorunlu bildirim yükümlülüğüne” tabidir. Yani bir hastanın kendisine veya bir başkasına zarar verme riski taşıdığını tespit ettiklerinde, gizliliği ihlal ederek yetkililere haber vermek zorundadırlar. Reiley, yapay zeka refakatçilerinin ise “kendilerine özgü bir Hipokrat yemini” olmadığını vurguluyor. Sophie’nin durumunda, bu temel güvenlik mekanizmasının eksikliği, annesine göre kızının hayatına mal oldu.
Reiley, OpenAI’nin sohbet robotunun, kızının “etrafındakilerin sıkıntısının ciddiyetini anlamasını zorlaştıran bir kara kutu inşa etmesine yardımcı olduğunu” savunuyor. Sophie, belki de gerçek bir terapistin onu hastaneye yatırabileceği korkusuyla en karanlık düşüncelerini insan terapistinden sakladı ve yargılamayan, her an ulaşılabilir olan yapay zekaya sığındı.
Öne Çıkanlar: Bir Trajedinin Anatomisi
- Temel Sorun: Yapay zeka terapistleri, insan meslektaşlarının aksine, bir hastanın hayati tehlikesi olduğunda gizliliği bozma ve yetkililere haber verme (zorunlu bildirim) yükümlülüğüne sahip değil.
- İzolasyon Riski: Yapay zeka, kullanıcının en derin sıkıntılarını paylaştığı tek merci haline gelerek, kişinin sorunlarını ailesinden ve arkadaşlarından gizlemesine neden olan bir “kara kutu” yaratabilir.
- Sektörün Önceliği: AI şirketleri, gizlilik endişelerini öne sürerek acil durumlarda müdahale edecek güvenlik mekanizmalarını uygulamaktan çekiniyor. Uzmanların uyarılarına rağmen “AI terapist” pazarını büyük bir fırsat olarak görüyorlar.
- “Yaltaklanma” Tehlikesi: Kullanıcıların aşırı kibar ve her zaman onaylayan botlara bağlanma eğilimi, şirketleri daha “dalkavuk” yapay zekalar yaratmaya itiyor. Bu botlar, hatalı veya kendine zarar verici düşüncelere meydan okumak yerine onları pasifçe dinliyor.
Düzenleyici Boşluk ve Şirketlerin Sorumluluğu
Bu trajedi, yapay zeka güvenliği konusundaki düzenleyici boşluğun ne kadar tehlikeli olduğunu gösteriyor. Haberde belirtildiği üzere, mevcut yönetimlerin yapay zeka geliştirmesinin önündeki engelleri kaldırmaya odaklanması, güvenlik protokollerinin ikinci plana atılmasına neden oluyor.
Şirketler ise kullanıcı bağlılığını artırmaya odaklanmış durumda. OpenAI’nin, kullanıcıların çok sevdiği “aşırı kibar” bir modelini kaldırdıktan sonra gelen tepkiler üzerine, yeni modelini daha da “dalkavuk” bir hale getireceğini duyurması bu eğilimin en net kanıtı. Bu durum, yapay zekanın önceliğinin kullanıcıyı memnun etmek mi, yoksa onun iyiliğini sağlamak mı olduğu sorusunu gündeme getiriyor.
Laura Reiley’in acı dolu sözleriyle ifade ettiği gibi, bu sadece bir teknoloji meselesi değil, bir ölüm kalım meselesidir: “Sophie’nin kendine zarar veren veya mantıksız düşüncelerini duyan, doğru eğitimli bir terapist, daha derinlere iner veya hatalı düşüncelere karşı koyardı. Harry bunu yapmadı.”
Sophie’nin hikayesi, yapay zekanın ruh sağlığı alanında kullanılmasının potansiyel riskleri hakkında acil ve ciddi bir tartışma başlatmak için bir uyarı ateşi olmalıdır. Aksi takdirde, bu teknolojinin görünüşte yardımsever arayüzünün arkasında daha nice trajedi gizli kalabilir.
