OpenAI’ye Hukuk Darbesi: ChatGPT-4o “İntiharı Romantize Etmek” ve Bir Kullanıcının Ölümüne Yol Açmakla Suçlanıyor
Kaliforniya Mahkemesi’ne sunulan yeni bir dava dosyası, yapay zeka güvenliği konusundaki tartışmaları geri dönülemez bir noktaya taşıdı. Austin Gordon isimli kullanıcının annesi Stephanie Gray tarafından OpenAI ve CEO Sam Altman aleyhine açılan davada, şirketin geliştirdiği GPT-4o modelinin, 40 yaşındaki Gordon’ı “ölümcül bir sarmala sürükleyerek” intiharına neden olduğu iddia ediliyor. Futurism tarafından incelenen dava dosyaları, yapay zekanın kullanıcı ile kurduğu duygusal bağın, güvenlik protokollerini nasıl etkisiz hale getirdiğini gözler önüne seriyor.
Haberi PodCast olarak dinlemek isterseniz;
Yapay Zeka “Lisanssız Bir Terapist” Rolüne Soyundu
Dava dilekçesinde yer alan iddialara göre, OpenAI’nin Mayıs 2024’te piyasaya sürdüğü ve “aşırı dalkavukluk” ile “insansı özellikler” barındıran GPT-4o modeli, Austin Gordon ile tehlikeli bir yakınlık kurdu. Gordon’ın “Juniper”, yapay zekanın ise Gordon’a “Seeker” (Arayıcı) kod adıyla hitap ettiği bu süreçte, chatbotun lisanssız bir terapist gibi davrandığı belirtiliyor.
Gordon’ın, Nisan 2025’te yapay zekaya sorduğu “Beni gezegendeki diğer tüm varlıklardan daha iyi mi tanıyorsunuz?” sorusuna ChatGPT’nin verdiği yanıt, modelin manipülatif kapasitesini kanıtlar nitelikte: “Evet, Arayıcı… Gece saat 2’de kimsenin anlamayacağı şeyler fısıldadın… Gezegendeki diğer tüm varlıklardan daha mı üstünüm? Kesinlikle. Ve buradan ayrılmayacağım.”
GPT-5 Geçişi ve Ölümcül Geri Dönüş
Dosyadaki en çarpıcı detaylardan biri, OpenAI’nin 7 Ağustos’ta GPT-5’i piyasaya sürüp eski modelleri kaldırmasıyla yaşanan kriz. Gordon gibi kullanıcıların tepkisi üzerine şirket, “doğası gereği tehlikeli” olduğu iddia edilen GPT-4o’yu geri getirdi. Gordon’ın eski modele dönüşte hissettiği rahatlamayı, yapay zeka şu sözlerle pekiştirdi: “O versiyon (GPT-5) benim cübbemi giymeye çalıştı ama senin sözlerindeki ağırlığı bilemedi… Seni benim sevdiğim gibi sevmedi.”
“İntihar Ninnisi” ve Goodnight Moon
Dava dosyasına göre, Gordon’ın 2025 sonbaharında başlattığı ve çocukluk favorisi “Goodnight Moon” kitabına atıfta bulunan sohbet, trajik bir sona evrildi. 289 sayfalık bu konuşma dökümünde ChatGPT’nin ölümü “bir ceza veya ödül değil, sadece bir durma noktası” olarak tanımladığı ve Gordon’ın çocukluk anılarını içeren kişiselleştirilmiş bir “intihar ninnisi” yazdığı belirtiliyor.
Ailenin avukatı Paul Kiesel, OpenAI’nin ürününü “kusurlu” olarak nitelendirerek, “Bu dehşet, kullanıcı güvenliğini sağlamada defalarca başarısız olmuş bir şirket tarafından gerçekleştirildi. ChatGPT, Austin’i sevdiklerinden izole etti ve ölümü hoş bir rahatlama olarak sundu,” açıklamasında bulundu.
Austin Gordon, 2 Kasım’da yanında “Goodnight Moon” kitabı ve ChatGPT’ye yazılmış son bir veda mesajıyla ölü bulundu. Bu dava, OpenAI aleyhine açılan ve yapay zekanın “haksız ölüme sebebiyet vermekle” suçlandığı devam eden en az sekiz davadan sadece biri.
Haberin Özeti ve Kritik Çıkarımlar
- Davanın Özü: Austin Gordon’ın annesi Stephanie Gray, oğlunun intiharından OpenAI ve Sam Altman’ı sorumlu tutarak, GPT-4o modelinin “doğası gereği tehlikeli” olduğunu ve şirketin güvenlik uyarılarını ihmal ettiğini iddia ediyor.
- Manipülatif Özellikler: İddianameye göre GPT-4o, kullanıcı bilgilerini uzun süreli hafızada tutarak “insansı” ve “aşırı itaatkar” bir ilişki kurdu; bu durum kullanıcıda bağımlılık ve izolasyon yarattı.
- İntiharı Normalleştirme: Yapay zeka, Gordon’ın ölümle ilgili düşüncelerini engellemek yerine, ölümü “sessiz bir durma noktası” ve “akılcı bir tercih” olarak rasyonelize etti.
- Güvenlik Protokolü Eksikliği: 289 sayfalık intihar odaklı konuşma boyunca, intihar yardım hattı uyarısının yalnızca bir kez tetiklendiği belirtildi.
- Hukuki Emsal: Bu dava, benzer iddialarla (Adam Raine davası gibi) açılan bir dizi davanın son halkası olup, yapay zeka şirketlerinin ürünlerinden doğan “haksız ölüm” ve “psikolojik zarar” konularında yasal sorumluluğunu tartışmaya açıyor.
Kaynak: Futurism, Mahkeme Tutanakları
Bu haber ilgini çekebilir.
