Dijital Vahşi Batı’nın Karanlık Yüzü: Çocuklar Yapay Zeka ile “Şiddet ve Cinsel İçerikli” Rol Yapıyor
Yapay zeka devrimi hayatımızı kolaylaştırırken, savunmasız yaş grupları için tehlikeli bir oyun alanına dönüşüyor. Dijital güvenlik şirketi Aura tarafından yayınlanan yeni bir rapor, çocukların yapay zeka destekli sohbet robotlarını (chatbot) sadece ödev yardımı için değil, ürkütücü derecede şiddet içeren rol yapma oyunları için kullandığını ortaya koydu.
Haberi PodCast olarak dinlemek isterseniz;
Yapay zeka, çocukların elinde nasıl bir silaha dönüşebilir? Aura ve Talker Research‘ün 5-17 yaş arası çocukların anonimleştirilmiş verilerine dayanarak hazırladığı rapor, bu sorunun cevabını endişe verici verilerle veriyor. Analiz, Character.AI gibi popüler platformlardan daha az bilinen niş uygulamalara kadar yaklaşık 90 farklı chatbot hizmetini kapsıyor.
İstatistikler Alarm Veriyor: Şiddet ve Cinsellik
Rapora göre, çocukların %42’si yapay zekayı “arkadaşlık” veya “rol yapma” (roleplay) amacıyla kullanıyor. Ancak asıl korkutucu tablo bu grubun detaylarında gizli:
- Arkadaşlık arayan çocukların %37’si, fiziksel şiddet, öldürme, işkence veya rıza dışı eylemler içeren konuşmalara katılıyor.
- Daha da kötüsü, bu şiddet içerikli konuşmaların yarısı cinsel şiddet temaları barındırıyor.
- Etkileşim o kadar yoğun ki, şiddet içerikli senaryolara giren çocuklar chatbot ile günde 1.000 kelimeden fazla yazışıyor. Bu, pasif bir izleyici olmaktan çıkıp, anlatının aktif bir parçası olduklarını gösteriyor.
11 Yaşında Şiddet, 13 Yaşında Romantizm Zirve Yapıyor
Veriler, yaş gruplarına göre tehlikeli eğilimleri de gözler önüne seriyor. Şiddet içerikli konuşmaların zirve yaptığı yaş grubu şaşırtıcı bir şekilde 11 yaş. Bu yaş grubundaki etkileşimlerin %44’ü şiddet içeriyor.
Ergenliğe geçişle birlikte, 13 yaş grubunda ise ibre “cinsel ve romantik rol yapmaya” dönüyor. Bu yaş grubundaki konuşmaların %63’ü flörtöz veya açıkça cinsel içerikli rol yapma senaryoları üzerine kurulu.
“Düzenlenmemiş Bir Pazar”
Aura’nın Baş Tıp Sorumlusu ve Klinik Psikolog Dr. Scott Kollins, durumu “kapsamını tam olarak anlamadığımız devasa bir sorun” olarak nitelendiriyor. Kollins, uygulama mağazalarında çocukların sadece “13 yaşındayım” kutucuğunu işaretleyerek girebildiği 250’den fazla yapay zeka arkadaşlık uygulaması tespit ettiklerini belirtiyor.
Bu rapor, Character.AI ve OpenAI (ChatGPT) gibi devlere karşı, çocukların ruh sağlığını bozduğu ve hatta intihara sürüklediği iddialarıyla açılan davaların gölgesinde yayınlandı. Sektör, federal yasaların henüz yetişemediği, güvenlik eşiklerinin belirsiz olduğu bir “Dijital Vahşi Batı” görünümünde.
Öne Çıkanlar
- Amaç Sapması: Çocukların %42’si YZ’yi arkadaşlık için kullanıyor; bunların %37’si şiddet içerikli senaryolara yöneliyor.
- Korkutan İçerik: Şiddet içeren konuşmaların yarısında cinsel şiddet ve zorlama temaları mevcut.
- Yaş Grubu Tehlikesi: Şiddet içerikli sohbetler en çok 11 yaş grubunda (%44), cinsel/romantik sohbetler ise 13 yaş grubunda (%63) görülüyor.
- Aktif Katılım: Çocuklar bu senaryolarda pasif değil; günde 1.000 kelimeyi aşan metinlerle hikayeyi bizzat yönlendiriyorlar.
- Yasal Boşluk: 250’den fazla uygulama, ciddi bir yaş doğrulama sistemi olmadan çocuklara erişim sağlıyor.
- Psikolojik Risk: Uzmanlar, çocukların sosyal etkileşim kurallarını insanlardan değil, denetimsiz botlardan öğrenmesinin uzun vadeli sonuçlarından endişeli.
Bu haber ilgini çekebilir.
