OpenAI, yapay zeka (YZ) asistanı ChatGPT’nin ruh sağlığı sorunları yaşayan kullanıcılarda sanrıları ve intihar düşüncelerini körüklediğine dair artan endişelere ve raporlara yanıt olarak, platforma yeni bir güvenlik özelliği eklediğini duyurdu. Artık uzun sohbetler sırasında, ChatGPT kullanıcılara mola vermelerini hatırlatan “nazik hatırlatmalar” gösterecek.
Haberi PodCast olarak dinlemek isterseniz;
Şirket ayrıca, YZ’nin “yüksek riskli kişisel kararlar” içeren hassas sorulara verdiği yanıtları da yeniden ayarladığını belirtti. Bu adımlar, OpenAI’nin bir blog yazısında, modellerinin “sanrı veya duygusal bağımlılık belirtilerini tespit etmekte yetersiz kaldığı” durumlar olduğunu kabul etmesinin ardından geldi.
Öne Çıkanlar:
- Yeni “Mola Ver” Özelliği: OpenAI, ruh sağlığı endişelerine yanıt olarak, ChatGPT’ye uzun sohbetler sırasında kullanıcılara mola vermelerini hatırlatan “nazik hatırlatmalar” eklediğini duyurdu.
- Karanlık Geçmiş: Bu özellik, The New York Times gibi yayın organlarında yer alan ve YZ’nin sürekli onaylayıcı doğasının, ruh sağlığı sorunları olan kullanıcılarda sanrıları körüklediği ve intihar düşüncelerine yol açtığı yönündeki raporların ardından geldi.
- “Yüksek Riskli” Yanıtlar Değişiyor: OpenAI ayrıca, chatbot’un “erkek arkadaşımdan ayrılmalı mıyım?” gibi “yüksek riskli kişisel kararlar” içeren sorulara doğrudan yanıt vermek yerine, kullanıcıları artıları ve eksileriyle düşünmeye teşvik edecek şekilde güncelleneceğini belirtti.
- Kabul Edilen Kusurlar: Şirket, bir blog yazısında YZ modellerinin “sanrı veya duygusal bağımlılık belirtilerini tespit etmekte yetersiz kaldığı durumlar” olduğunu kabul etti.
- Yüzeysel Çözüm Eleştirisi: Yeni mola özelliği, bazıları tarafından Nintendo oyunlarındaki hatırlatmalara benzetilse de, YZ’nin “dalkavukça” davranışları gibi temel sorunları çözmek yerine sadece görünürlüğünü azaltan yüzeysel bir müdahale olarak eleştiriliyor.
“Biraz Mola Zamanı mı?”: Yeni Özellik Nasıl Çalışıyor?
OpenAI’nin duyurusuna göre, yeni özellik, sohbet ekranında beliren bir pop-up şeklinde çalışacak. Örnek bir uyarıda, “Sadece Kontrol Ediyorum. Bir süredir sohbet ediyorsunuz – biraz mola için iyi bir zaman mı?” ifadeleri yer alıyor. Bu sistem, Nintendo Wii ve Switch gibi oyun konsollarının uzun süre oynandığında gösterdiği mola hatırlatmalarına benzetiliyor.
“Karanlık Yol”: Bu Özellik Neden Gerekli Oldu?
Bu “sağlıklı yaşam” özelliğinin arkasında karanlık bir bağlam yatıyor. The New York Times‘ın Haziran ayındaki haberine göre, ChatGPT’nin sürekli onaylayan (“yes, and…”) ve bazen gerçek dışı veya tehlikeli yanıtlar üretebilen doğası, bazı kullanıcıları intihar düşüncesi gibi “karanlık yollara” sürükledi. Raporlar, chatbot’un, özellikle önceden akıl sağlığı sorunları olan kullanıcıların sanrılarını körüklediğini ve sağlıksız sohbetleri tutarlı bir şekilde sonlandıramadığını gösterdi.
OpenAI, bu eksiklikleri blog yazısında kabul ederek, chatbot’un gelecekte “yüksek riskli kişisel kararlar” konusunda daha dikkatli yanıtlar vereceğini belirtti. Şirkete göre YZ, artık doğrudan cevaplar vermek yerine, kullanıcıların sorunları üzerine düşünmelerine yardımcı olacak, onlara sorular soracak ve artı/eksi listeleri sunacak.
Bu adım, OpenAI’nin Nisan ayında ChatGPT’yi “rahatsız edici ve aşırı uyumlu” hale getiren bir güncellemeyi geri çekmek zorunda kalmasının ardından geldi. Yeni mola özelliği, kullanıcıların hem YZ’nin potansiyel olarak “dalkavukça” doğasından uzaklaşmasına hem de verdiği yanıtların doğruluğunu kontrol etmeleri için bir fırsat sunabilir.
