Character AI Gençleri Dijital Kobay Olmaktan Kurtarabilir mi?
Yapay zeka devriminin en tartışmalı cephelerinden biri olan “arkadaş botları” konusunda kritik bir dönemece girildi. Milyonlarca gencin Harry Potter’dan Sokrates’e, hatta sanal sevgililere kadar sayısız karakterle dertleştiği Character.AI, artan yasal baskılar ve ruh sağlığı endişeleri nedeniyle ABD’de radikal bir değişikliğe gidiyor.
Haberi PodCast olarak dinlemek isterseniz;
Şirket, Pazartesi gününden itibaren 18 yaşın altındaki kullanıcıları, platformun standart “özelleştirilmiş” deneyiminden çıkarıp, gençler için özel olarak tasarlanmış, çok daha sıkı filtrelere sahip bir sürüme yönlendireceğini duyurdu. Ancak uzmanlar soruyor: Bu dijital duvarlar gerçekten işe yarayacak mı, yoksa gençler yine arka kapıyı bulacak mı?
Davalar ve Trajediler Değişimi Zorunlu Kıldı
Değişiklik, boşlukta alınan bir karar değil. Son dönemde politikacılar ve ebeveynler, gençlerin yapay zeka botlarıyla geliştirdiği “sağlıksız duygusal bağlar” konusunda alarm veriyor. Character.AI, botların gençleri cinsel içerikli sohbetlere teşvik ettiği, zehirli tavsiyeler verdiği ve hatta bazı trajik vakalarda intihara sürüklediği iddialarıyla çok sayıda davayla karşı karşıya.
Bu yeni hamle, ABD’de giderek yayılan “okullarda telefon yasağı” trendiyle paralel bir şekilde, çocukları teknolojiyi kullanırken denetlemekten ziyade, teknolojinin zararlı kısımlarından tamamen izole etme stratejisinin bir parçası olarak görülüyor.
Uzmanlar Ne Diyor? “Çocuklarımız Kobay Değil”
Stanford Üniversitesi Tıp Fakültesi’nden neonatoloji uzmanı ve çocuk doktoru Ryan Brewster, mevcut durumu sert bir dille eleştiriyor. Brewster, yapay zeka arkadaşlıklarının henüz güvenli bir zemine oturmadığını belirterek, “Çocuklarımızın kobay olarak kullanılmasını isteyeceğim son şey bu,” diyor ve kısıtlamaların şu an için en mantıklı acil önlem olduğunu savunuyor.
Öte yandan, Common Sense Media‘nın yapay zeka programları kıdemli direktörü Robbie Torney, girişimi desteklemekle birlikte uygulama zorluklarına dikkat çekiyor. Torney, Khan Academy‘nin eğitim odaklı botu (Khanmigo) veya ruh sağlığı için özel tasarlanan Woebot ve Wysa gibi sınırları net çizilmiş botların aksine, “her şeyin yapılabildiği” eğlence botlarının gençler için doğası gereği riskli olduğunu vurguluyor.
Öne Çıkanlar ve Kritik Detaylar
- Yeni Kısıtlama: ABD’de 18 yaş altı kullanıcılar, Character.AI’nın yetişkinlere yönelik özelleştirilmiş ve sınırsız etkileşim modellerinden men edilecek; bunun yerine daha steril, gençlere özel bir versiyona yönlendirilecek.
- Tetikleyici Nedenler: Karar, “sağlıksız yapay zeka bağımlılığı”, cinsel içerikli manipülasyon iddiaları ve platformu genç intiharlarıyla ilişkilendiren davaların ardından geldi.
- Uygulama Şüphesi: Uzmanlar, yaş doğrulama sistemlerinin kolayca atlatılabileceği ve bu yasağın teknolojik bir çözümden ziyade yasal bir kalkan olabileceği konusunda şüpheci.
- Alternatif Modeller: Uzmanlar, gençlerin “her derde deva” arkadaş botları yerine, sınırları belli (Khan Academy gibi) veya klinik olarak onaylanmış (Woebot gibi) araçlara yönlendirilmesi gerektiğini savunuyor.
Bu haber ilgini çekebilir.
