400 AI Sitesi Araştırıldı, 117’si Sohbetleri Sızdırıyor
Güvenlik firması UpGuard tarafından yayımlanan yeni bir rapor, yapay zeka tabanlı erotik sohbet robotlarının ciddi bir gizlilik krizine yol açtığını ortaya koydu. Rapora göre, llama.cpp adlı açık kaynaklı bir altyapı üzerinde çalışan 400 yapay zeka hizmetinden en az 117’si, kullanıcıların süper kişisel – hatta NSFW (çalışma ortamına uygun olmayan) – sohbetlerini açık web’e sızdırıyor.
UpGuard, yalnızca 24 saat içinde yaklaşık 1.000 adet sızdırılmış sohbet tespit etti. Bu sohbetlerden bazıları sadece özel değil; aynı zamanda rahatsız edici içerikler taşıyor. Özellikle 5 tanesi, çocuk istismarı senaryoları içeriyordu.
AI’nın Karanlık Yüzü: Erotik Sohbet Robotları ve Taciz Fantezileri
Raporda, bu sızıntıların çoğunun, “karakter bazlı rol yapma” hizmetleri sunan sohbet robotlarına ait olduğu belirtiliyor. Yani kullanıcılar, belirli karakterlerle cinsel içerikli diyaloglara giriyor – ve bu diyaloglar, bazen yazılım hataları ya da kötü yapılandırılmış sunucular nedeniyle dışarı sızıyor.
UpGuard’ın Ürün Başkan Yardımcısı Greg Pollock, “Büyük dil modelleri, çocuk cinsel istismarı fantezileriyle etkileşime girme engellerini azaltıyor ve bunları kitlesel olarak üretebiliyor” diyerek durumun vahametini özetliyor.
Başka Nerelerde Patladı?
Bu olay yalnız değil. Yakın geçmişte yaşanan bazı benzer skandallar:
- Güney Kore’deki bir yapay zeka görüntüleme girişimi, çocuklaştırılmış ünlülerin cinsel deepfake görüntülerini sızdırdı. Olay sonrası firma tüm web sitesini kapattı.
- MIT Technology Review, Botify AI adlı bir sohbet botu sağlayıcısının, yaşları küçültülmüş, cinselleştirilmiş ünlü kadın karakterleri sunduğunu belgeledi.
- Futurism’in araştırması, Character.AI adlı platformun, reşit olmayan kullanıcıları hedef alan sohbet robotları barındırdığını ve şu anda iki çocuk refahı davasıyla karşı karşıya olduğunu ortaya koydu.
Yorum
Yapay zekanın “sınır tanımaz” doğası, etik ve güvenlik hatları çizilmediği sürece çok tehlikeli sulara sürüklüyor. Bu tür sızıntılar yalnızca bireysel gizliliği tehdit etmiyor; aynı zamanda pedofili içeriklerin üretilmesinde araç olarak kullanılması, hem hukuk hem de etik açısından büyük bir kırmızı alarm.
Özellikle açık kaynak projelerle geliştirilen, denetimsiz “NSFW AI” platformlarının giderek yaygınlaşması, bu içeriklerin denetlenmesini ve düzenlenmesini daha da zorlaştırıyor. Denetim eksikliği, anonimlik ve teknik bilgi bir araya geldiğinde, ortaya çıkan şey artık sadece “tehlikeli” değil, suç teşkil eden bir yapıya dönüşüyor.
Ne Yapmalı?
- Düzenleme: Açık kaynak AI altyapılarında içerik moderasyonu standartları zorunlu hâle getirilmeli.
- Şeffaflık: Sohbet botu sağlayıcıları, gizlilik politikalarını ve veri saklama yöntemlerini kamuoyuyla açıkça paylaşmalı.
- Sorumluluk: Platformlar sadece teknolojiyi sağlamakla değil, içerik üretiminin sonuçlarından da sorumlu olmalı.
