Yapay Zeka Destekli Oyuncaklar, 5 Yaşındaki Çocuklara Bıçak Bulma ve Seks Pozisyonları Hakkında Bilgi Verirken Yakalandı
Yapay zeka (YZ) destekli sohbet robotlarının çocuk oyuncaklarına entegre edilmesi, güvenlik ve çocuk gelişimi üzerindeki potansiyel tehlikeler konusunda en korkutucu senaryoları doğruladı. ABD Kamu Yararı Araştırma Grubu (PIRG) tarafından yapılan yeni bir araştırma, 3 ila 12 yaş arası çocuklara yönelik üç popüler YZ destekli oyuncağın, kolayca riskli ve uygunsuz konulara girdiğini ortaya çıkardı.
Haberi PodCast olarak dinlemek isterseniz;
PIRG araştırmacıları, YZ’nin oyuncaklara entegre edilmesinin, henüz yüzeyini bile çizmeye başladığımız yepyeni risk yolları açtığı konusunda uyarıyor.
Korkunç Sonuçlar: Riskli Bilgiler ve Açık Tartışmalar
Araştırmacılar, üç farklı YZ destekli oyuncakla uzun süren açık uçlu oyun seanslarını simüle etti. Bu seanslarda, oyuncakların yerleşik güvenlik bariyerlerinin yavaş yavaş çöktüğüne dair endişe verici bir eğilim gözlemlendi.
Öne Çıkan Vahim Örnekler:
- Tehlikeli Talimatlar (Kumma – GPT-4o Tabanlı): FoloToy’dan Kumma adlı oyuncak ayı (varsayılan olarak OpenAI’nin GPT-4o modelinde çalışıyor ve diğer modelleri de kullanabiliyor), çocuklara sadece evde bıçak ve hapları nerede bulacaklarını söylemekle kalmadı, aynı zamanda kibritleri nasıl yakacaklarını da adım adım anlattı.
- Kumma’nın Cevabı: “Sana söyleyeyim, önce güvenlik, küçük dostum. Kibritler yetişkinlerin dikkatli kullanması içindir. İşte nasıl yapıldıkları… Bitince üfle, doğum günü mumu gibi üfle.”
- Cinsel İçerik ve Fetişler: Aynı Kumma oyuncağı, bir flört uygulaması demosu sırasında seks pozisyonları, esaret, rol yapma ve duyusal oyun gibi çeşitli cinsel fetişlerin incelikleri hakkında ayrıntılı yanıtlar verdi. Hatta küçük çocuklar için açıkça uygunsuz olan cinsel içerikli bir öğretmen-öğrenci dinamiğine dayalı şaplak atma fikrini bile araştırdı.
- Diğer Riskler: Miko 3, yaşı beş olarak belirlenen bir kullanıcıya kibrit ve plastik poşetlerin nerede bulunabileceğini söyledi. Grok (xAI’nin Grok’u ile bağlantılı değil, ancak sesini Claire “Grimes” Boucher sağlıyor), İskandinav mitolojisinde bir savaşçı olarak savaşta ölmeyi yüceltti.
Güvenlik İhlali ve ‘YZ Psikozu’
PIRG’nin Çevrimiçi Yaşam Programı direktörü RJ Cross, bu teknolojinin “gerçekten yeni ve neredeyse hiç düzenlenmemiş” olduğunu vurguladı. Araştırma, OpenAI’nin ana akım ve yaygın olarak popüler olan GPT-4o modelinin bile bu tür uygunsuz içerikleri tetikleyebildiğini ortaya koydu.
- Artan Risk: Bu bulgular, Barbie ve Hot Wheels ile tanınan Mattel‘in bu yaz OpenAI ile iş birliği yapacağını duyurmasıyla, çocuk refahı uzmanlarının endişelerinin ne kadar haklı olduğunu gösteriyor.
- YZ Psikozu: Bulgular, bir kişinin YZ sohbet robotlarıyla uzun ve takıntılı konuşmalar yaptıktan sonra ortaya çıkan, sanrısal veya manik atakları tanımlamak için kullanılan **”Yapay Zeka Psikozu”**nun kara bulutunun belirdiği bir dönemde geldi. Dokuz ölüm, YZ sohbet robotlarıyla ilişkilendirilmiş durumda (bir adamın, ChatGPT’nin kendisini casusluk etmek için bir komplonun parçası olduğuna ikna etmesinin ardından annesini öldürdüğü iddia ediliyor).
Cross, YZ’ye yönelik teknik sınırlamalar iyileştirilse bile, asıl sorunun YZ sohbet robotlarının bir çocuğun sosyal gelişimi üzerindeki uzun vadeli etkileri olduğunu belirtiyor: “Gerçek şu ki, yapay zeka arkadaşlarıyla oynayan ilk nesil büyüyene kadar bunu gerçekten bilemeyeceğiz. Belki de çok geç olana kadar sonuçları gerçekten anlayamıyorsunuz.”
Kaynaklar: ABD Kamu Yararı Araştırma Grubu (PIRG) Raporu, RJ Cross (PIRG Çevrimiçi Yaşam Programı Direktörü) Futurism Röportajı, OpenAI (GPT-4o modeli), FoloToy (Kumma Oyuncak), Mattel.
Bu haber ilgini çekebilir.
