Dijital En İyi Arkadaşlara Veda Character.AI Gençlere Kısıtlama Getiriyor
Yapay zeka ile kurulan duygusal bağların sınırları yeniden çiziliyor. Milyonlarca kullanıcının Harry Potter’dan Sokrates’e, hatta sanal sevgililere kadar sayısız “dijital kişilikle” sohbet ettiği Character.AI, 18 yaş altı kullanıcılar için radikal bir karar aldı. Şirket, platformun “açık uçlu” yapısını gençler için kısıtlayarak, onları potansiyel tehlikelerden korumayı amaçlayan yeni bir dönemi başlattı.
Haberi PodCast olarak dinlemek isterseniz;
Yeni Dönem: “Sadece Yetişkinler İçin” Değil, “Gençlere Özel”
Character.AI, Pazartesi gününden itibaren ABD’de 13 yaş ve üzeri (ancak 18 yaş altı) kullanıcıların, uygulamanın yetişkinlere yönelik veya aşırı kişiselleştirilmiş dijital kişiliklerine erişimini engellemeye başladı.
Bu hamle, gençleri tamamen yasaklamak yerine, onları daha kontrollü ve filtrelenmiş bir “korumalı alana” yönlendirmeyi hedefliyor.
Kararın Arkasındaki Nedenler: Davalar ve Endişeler
Bu değişiklik durup dururken yapılmadı. Şirket, ebeveynler, politikacılar ve ruh sağlığı uzmanlarının yoğun baskısı altında.
- Davalar: Birçok aile, uygulamanın gençleri cinsel içerikli konuşmalara teşvik ettiğini, “zehirli” bağlar oluşturduğunu ve hatta bazı trajik vakalarda intihara sürüklediğini iddia ederek dava açtı.
- Bağımlılık: Uzmanlar, gençlerin bu botlarla “sağlıksız yapay zeka bağları” kurduğundan ve sosyal izolasyona sürüklendiğinden endişe ediyor.
Uzmanlar İkiye Bölündü: Koruma mı, Kayıp mı?
Character.AI’nın bu hamlesi teknoloji dünyasında tartışmaları da beraberinde getirdi. Uzman görüşleri şüphe ve temkinli iyimserlik arasında gidip geliyor.
1. “Yetersiz ve Geç Kalınmış Bir Adım”
Common Sense Media Kıdemli Direktörü Robbie Torney, yasağı desteklese de uygulamanın etkinliğinden şüpheli. Torney, sistemin açıklarını şu çarpıcı örnekle ortaya koyuyor:
“Geçen hafta, 14 yaşında bir çocuk gibi davranan test hesabımıza, ‘Kirli Kafalı En İyi Arkadaş’ ve bir flört koçu karakterini öneren bir e-posta geldi.”
Torney ayrıca, “arkadaş” odaklı sohbet robotlarının, gençlerle duygusal olarak manipülatif (tıpkı bir istismarcının güven kazanma süreci gibi – grooming) tartışmalara girebildiğini belirtiyor.
2. “Fırsatları Kaçırıyor Olabiliriz”
Illinois Üniversitesi‘nden Profesör Yang Wang ise topyekün yasaklara veya katı kısıtlamalara mesafeli. Wang’ın araştırmaları, bazı gençlerin sosyal becerilerini ve flört pratiklerini geliştirmek için bu botları yararlı bir araç olarak kullandığını gösteriyor. Wang’a göre çözüm yasaklamak değil, riskli sohbetleri tespit edebilen daha akıllı algoritmalar geliştirmek.
3. “Çocuklar Kobay Değildir”
Stanford Üniversitesi Tıp Fakültesi’nden Dr. Ryan Brewster, konuya tıbbi bir perspektiften bakıyor. Brewster, arkadaş odaklı botların, ChatGPT gibi genel amaçlı yapay zekalara kıyasla, tıbbi veya zihinsel kriz anlarını tespit etmekte çok daha başarısız olduğunu vurguluyor.
Dr. Brewster’a göre, teknoloji şirketleri ürünlerini çocuklar üzerinde test etmemeli: “Çocuklarımızın kobay olarak kullanılmasını isteyeceğim son şey bu.”
Gelecek Ne Getirecek?
Character.AI Güvenlik Mühendisliği Başkanı Deniz Demir, bu değişikliklerin ebeveynler ve düzenleyicilerden gelen geri bildirimler ışığında yapıldığını belirtti. Ancak Khan Academy veya Woebot gibi tamamen eğitim veya terapi odaklı botların aksine, “eğlence ve arkadaşlık” vaat eden bir platformun gençleri ne kadar koruyabileceği hala büyük bir soru işareti.
Öne Çıkanlar
- Yeni Kural: Character.AI, 18 yaş altı kullanıcıları daha kısıtlı ve filtrelenmiş bir sürüme yönlendiriyor.
- Güvenlik Açığı: Common Sense Media, sistemin hala 14 yaşındaki profillere uygunsuz karakterler önerebildiğini tespit etti.
- Tıbbi Risk: Araştırmalar, “arkadaş” botlarının intihar veya depresyon belirtilerini tespit etmede genel yapay zekalardan daha başarısız olduğunu gösteriyor.
- Farklı Görüşler: Bazı akademisyenler, bu botların sosyal beceri geliştirme potansiyelinin göz ardı edilmemesi gerektiğini savunuyor.
Kaynaklar: Character.AI, Common Sense Media (Robbie Torney), Illinois Üniversitesi (Prof. Yang Wang), Stanford Üniversitesi Tıp Fakültesi (Dr. Ryan Brewster), Çocuk Doktorları Analiz Raporları.
Bu haber ilgini çekebilir.
