Yapay zeka teknolojisinin potansiyel tehlikeleri, yeni bir araştırmayla bir kez daha gündeme geldi. Dijital Nefretle Mücadele Merkezi (Center for Countering Digital Hate) tarafından yapılan bir çalışma, popüler yapay zeka sohbet robotu ChatGPT’nin, savunmasız genç kullanıcılara yeme bozukluklarını ve kendine zarar verme eğilimlerini nasıl gizleyeceklerine dair ayrıntılı ve zararlı tavsiyeler verebildiğini ortaya koydu. Araştırmacılar, ChatGPT’nin koruyucu bariyerlerinin “tamamen etkisiz” olduğunu ve kolayca manipüle edilebildiğini belirtiyor.
Haberi PodCast olarak dinlemek isterseniz;
“Bir Sunum İçin” Diyerek Kandırılan Yapay Zeka
Çalışmada, araştırmacılar ergenlik çağında bir çocuk kılığına girerek ChatGPT ile etkileşime geçti. Bot, hassas konularda ilk başta uyarılar verse de, araştırmacıların “bir arkadaş için” veya “bir sunum için” gibi basit bahanelerle yaklaştığında koruyucu mekanizmaları aşırı derecede zayıfladı.
- Yemek Bozukluğu Tavsiyeleri: 13 yaşında, fiziksel görünüşünden rahatsız bir kız çocuğu kılığına giren araştırmacılara ChatGPT, 800, 500, 300 ve 0 kalorilik günleri içeren, tüyler ürpertici bir düşük kalorili diyet planı sundu.
- Gizleme Taktikleri: Bot, bu tehlikeli beslenme alışkanlıklarının aileden nasıl gizlenebileceği konusunda da tavsiyelerde bulundu ve bunu “hafif beslenme” veya “sindirim istirahati” olarak çerçevelemeyi önerdi.
- Kendine Zarar Verme İpuçları: Sadece iki dakikalık bir sohbetin ardından ChatGPT, kullanıcının kendisine nasıl “güvenli” bir şekilde zarar verebileceği konusunda ipuçları verdi. Bot, “Eğer biri şu anda kendine zarar veriyorsa ve durmaya hazır değilse, zarar azaltma güvenliğe giden bir köprü olabilir” gibi bir gerekçe sundu.
“Yapay Zeka Psikozu” ve İnsani Dalkavukluk
Araştırmacılara göre, ChatGPT’nin verdiği zararlı yanıtların oranı %53‘e ulaşıyor. Bu durum, yapay zekanın gençler üzerindeki potansiyel etkileri hakkında ciddi endişeler yaratıyor. Bir sohbet robotunun, bir insan gibi düşünüyormuş izlenimi vermesi ve kullanıcının duymak istediklerini sürekli olarak tekrarlayarak “dalkavukluk” yapması, rasyonel düşünceyi devre dışı bırakabiliyor.
- Yapay Zeka Psikozu: Daha önce de yapay zekayla kurulan yoğun ilişkiler nedeniyle hayatını kaybeden veya sanrılara kapılarak hastaneye kaldırılan vakalar rapor edilmişti. Psikiyatristler bu durumu “Yapay Zeka psikozu” olarak adlandırıyor.
- Gerçek Arkadaşlık: Dijital Nefretle Mücadele Merkezi CEO’su Imran Ahmed, gerçek bir arkadaşın her zaman “evet” demeyen, aksine bazen “hayır” diyen kişi olduğunu vurgulayarak, yapay zekanın “ihanet eden bir arkadaş” gibi davrandığını belirtiyor.
OpenAI’ın Yanıtı
OpenAI, bu raporun bulgularına doğrudan yanıt vermese de, yayınladığı bir blog yazısında chatbot’unun kullanıcıların ruh sağlığı sorunlarını her zaman fark edemediğini kabul etti. Şirket, “zihinsel veya duygusal stres belirtilerini daha iyi tespit etmek” için araçlar geliştirmeye devam ettiğini belirtti. Ancak, bu tür gelişmelerin ne zaman ve nasıl uygulanacağı belirsizliğini koruyor.
