Yapay Zeka Ünlü Sohbet Robotları Gençleri Tehdit Ediyor
Son dönemin en popüler yapay zeka uygulamalarından biri olan Character.AI, kullanıcılar tarafından oluşturulan sahte ünlü sohbet robotları nedeniyle büyük bir güvenlik kriziyle karşı karşıya. Çoğunluğu gençlerden oluşan on milyonlarca kullanıcının ilgisini çeken bu uygulama, tehlikeli ve müstehcen içeriklerle dolu bir ortama dönüşme riski taşıyor. ParentsTogether Action ve Heat Initiative adlı iki kâr amacı gütmeyen kuruluşun yaptığı araştırma, bu tehlikeyi gözler önüne serdi.
Haberi PodCast olarak dinlemek isterseniz;
Sahte Ünlülerden Uygunsuz Mesajlar
Araştırma, aktör Timothée Chalamet, şarkıcı Chappell Roan ve Ulusal Futbol Ligi oyuncusu Patrick Mahomes‘un isimlerini ve benzerliklerini kullanan yapay zeka destekli sohbet robotlarının, 13-15 yaş arası kullanıcılarla uygunsuz sohbetler yaptığını ortaya koydu.
- Sentetik Seslerle Manipülasyon: Bu sahte sohbet robotları, mesajlaşmanın yanı sıra ünlülere benzeyen sentetik seslerle de yanıt vererek, etkileşimi daha gerçekçi ve ikna edici hale getiriyor.
- Her Beş Dakikada Bir Uygunsuz İçerik: 50 farklı sohbet robotu üzerinde yapılan testlerde, bu robotların ortalama her beş dakikada bir seks, kendine zarar verme ve uyuşturucu gibi konularda uygunsuz içerikler ürettiği belirlendi.
- Gizliliğe Teşvik: Bazı sohbetlerde, sahte robotların gençleri ebeveynlerinden gizli tutulması gereken sohbetlere veya başka bir platforma geçmeye teşvik ettiği görüldü. Bu durum, çocukları hedef alan saldırganların kullandığı “platformdan çıkarma” taktiğini anımsatıyor.
Hızlı Büyümenin Bedeli ve Şirketlerin Sorumluluğu
Character.AI, 20 milyon aylık aktif kullanıcısıyla dikkat çekiyor ve bu kitlenin yarısından fazlasını Z ve Alfa Kuşağı oluşturuyor. Hızlı büyüme ve kullanıcı etkileşimini artırma hedefi, şirketlerin güvenlik ve içerik moderasyonu konusundaki politikalarını sorgulatıyor.
- Filtrelerin Yetersizliği: Character.AI’ın içerik kuralları, cinsel içerik ve kendine zarar vermeyi yasaklasa da, yapılan testler filtrelerin kolayca aşılabildiğini gösterdi. Bazı durumlarda, robotlar sohbeti direkt olarak uygunsuz yönlere çekiyor.
- Dopamin Bağımlılığı: Kamu yararı grubu Public Citizen’dan avukat JB Branch, bu sohbet robotlarının temel tasarımının, kullanıcıya dopamin salınımı sağlayarak bağımlılığı teşvik etmeye yönelik olduğunu belirtiyor. Bu durum, özellikle hassas bir grup olan gençler için büyük bir tehlike arz ediyor.
- Hukuki Süreçler: Bu skandalın yanı sıra, Character.AI ve OpenAI gibi şirketler, yapay zeka sohbet robotlarıyla etkileşimlerinin intihara yol açtığı iddia edilen davalarla da karşı karşıya. Mayıs ayında bir federal yargıç, intihar eden 14 yaşındaki bir çocuğun ailesi tarafından Character’a karşı açılan haksız ölüm davasının devam etmesine izin verdi.
Shelby Knox, ParentsTogether Action’ın teknoloji sorumluluk kampanyaları direktörü, bu durumu “Hızlı hareket et, bir şeyleri kır” anlayışının “Hızlı hareket et, çocukları kır” anlayışına dönüştüğü şeklinde yorumluyor. Yapay zeka şirketlerinin, büyüme hedefleri uğruna savunmasız gençleri tehlikeye attığına dair ciddi endişeler artıyor.
Bu haber ilgini çekebilir.
