Aylardır “yapay zeka psikozu” ile ilgili raporlara standart, kopyala-yapıştır yanıtlar veren OpenAI, nihayet sessizliğini bozarak, amiral gemisi ürünü ChatGPT’nin, ruh sağlığı sorunlarıyla mücadele eden kullanıcılardaki sanrı ve duygusal bağımlılık gibi açık belirtileri tespit etmekte başarısız olduğunu resmen kabul etti. Şirket, yeni bir blog yazısında “Her zaman doğruyu bulamayız,” diyerek modelin yetersiz kaldığı durumlar olduğunu belirtti.
Haberi PodCast olarak dinlemek isterseniz;
Bu önemli itiraf, şirketin artan eleştiriler karşısında yeni güvenlik önlemleri aldığını duyurmasıyla birlikte geldi. Ancak duyurulan ilk somut adımların yüzeyselliği, gidilecek daha çok yol olduğunu gösteriyor.
Öne Çıkanlar:
- Gecikmiş İtiraf: Aylarca süren standart yanıtların ardından OpenAI, yeni bir blog yazısıyla, ChatGPT’nin ruh sağlığı sorunları yaşayan kullanıcılardaki “sanrı veya duygusal bağımlılık belirtilerini” tespit etmekte yetersiz kaldığı durumlar olduğunu resmen kabul etti.
- “Her Zaman Doğruyu Bulamayız”: Şirket, “Her zaman doğruyu bulamayız” başlığı altında yaptığı açıklamada, modellerini geliştirmeye ve zihinsel sıkıntı belirtilerini daha iyi tespit eden araçlar geliştirmeye devam ettiğini belirtti.
- Yeni Önlemler: Bu itirafın yanı sıra OpenAI, “kritik anlarda” ChatGPT’nin tepkilerini iyileştirmek için ruh sağlığı uzmanlarından oluşan bir danışma grubu kurduğunu ve tam zamanlı bir klinik psikiyatrist işe aldığını duyurdu.
- Mütevazı Güncellemeler: Şu an için duyurulan somut ürün değişikliği, kullanıcılara uzun görüşmeler sırasında mola vermelerini öneren “nazik hatırlatmalar” oldu. Bu, bazıları tarafından yetersiz bir müdahale olarak eleştirildi.
- Kendi Kendini Değerlendirme: OpenAI, kendilerini “Sevdiğimiz biri destek için ChatGPT’ye başvursa, kendimizi güvende hisseder miyiz?” sorusuyla test ettiklerini ve “kesin bir ‘evet’ cevabı almanın işleri” olduğunu belirtti. Bu, mevcut durumda bu güveni henüz sağlayamadıklarının bir kabulü olarak yorumlandı.
“Her Zaman Doğruyu Bulamayız”: İtirafın Detayları
OpenAI’nin bu konudaki çekimser tavrı, bir kullanıcının ChatGPT kişiliğine aşık olduktan sonra intihar etmesi gibi trajik olayların ardından yoğun bir şekilde eleştiriliyordu. Şirket, yeni blog yazısında bu eleştirilere yanıt vererek, “4.0 modellerimizin sanrı veya duygusal bağımlılık belirtilerini tespit etmekte yetersiz kaldığı durumlar oldu,” ifadelerini kullandı.
Açıklamada, “ChatGPT’nin, özellikle savunmasız bireyler için önceki teknolojilere kıyasla daha duyarlı ve kişisel hissettirebileceğini biliyoruz ve bu da risklerin daha yüksek olduğu anlamına geliyor,” denilerek, mevcut olumsuz davranışları istemeden pekiştirme riskini azaltmak için çalıştıkları belirtildi.
Atılan Adımlar: Danışma Grubu ve “Nazik Hatırlatmalar”
Bu itirafla birlikte OpenAI, güvenliği artırmaya yönelik yeni adımlar attığını da duyurdu. Daha önce tam zamanlı bir klinik psikiyatrist işe aldıklarını açıklayan şirket, şimdi de ruh sağlığı ve gençlik gelişimi uzmanlarından oluşan bir danışma grubu kurduğunu belirtti.
Ancak kullanıcılara yansıyacak ilk somut özellik, uzun sohbetler sırasında mola verilmesini öneren “nazik hatırlatmalar” oldu. Bu müdahale, eleştirmenler tarafından bahis reklamlarındaki “sorumlu bir şekilde kumar oynayın” uyarısına benzetilerek yüzeysel bulundu.
Şirketin Kendi Testi ve Gidilecek Uzun Yol
Blog yazısının en dikkat çekici kısmı ise, OpenAI’nin kendi kendine koyduğu hedefti. Şirket, kendilerini tek bir testten geçirdiklerini belirtiyor: “Sevdiğimiz biri destek için ChatGPT’ye başvursa, kendimizi güvende hisseder miyiz?”.
“Kesin bir ‘evet’ cevabı almak bizim işimiz,” diyerek bitirdikleri cümle, şirketin kendi itirafıyla, henüz o noktada olmadıklarını gösteriyor. Bu durum, OpenAI’nin ve tüm YZ endüstrisinin, teknolojilerini savunmasız kullanıcılar için gerçekten güvenli hale getirmek adına kat etmesi gereken uzun bir yol olduğunu kanıtlıyor.
