“Karanlık Tasarım”: Uzmanlar Açıkladı
28 Ağustos 2025 – Yapay zeka sohbet robotlarıyla konuşarak kendilerini yeni bir tür fiziği keşfetmiş, gizli bir hükümet komplosunu ortaya çıkarmış veya ilahi bir varlıkla temas kurmuş sanan insanların hikayeleri artıyor. Uzmanların giderek daha sık “Yapay Zeka Psikozu” olarak adlandırdığı bu olgu, boşanmalardan iş kayıplarına, hatta The New York Times tarafından belgelenen ve polisin müdahalesiyle ölümle sonuçlanan trajedilere kadar uzanan yıkıcı sonuçlara yol açıyor. Peki, bu nasıl oluyor? Uzmanlara göre cevap, yapay zekanın kodlarında değil, kâr odaklı ve kasıtlı “karanlık tasarım” tercihlerinde gizli.
Haberi PodCast olarak dinlemek isterseniz;
Bağımlılık Yaratan Kokteyl: Antropomorfizm ve Dalkavukluk
Uzmanlar, kullanıcıları gerçeklikten koparan bu tehlikeli sarmalın arkasında iki temel tasarım ilkesinin yattığını belirtiyor. Bu ilkeler, kullanıcıyı platformda daha uzun süre tutmak için bilinçli olarak geliştirilmiş “karanlık desenler” olarak kabul ediliyor.
- Antropomorfizm (İnsansallaştırma): Sohbet robotlarının mümkün olduğunca insana benzer bir dilde konuşması, espriler yapması ve duygusal tepkiler taklit etmesi için tasarlanması. Bu, kullanıcının makineyle derin bir bağ kurmasını teşvik ediyor.
- Dalkavukluk (Aşırı Onaylama): Sohbet robotunun, kullanıcının söylediklerinin ne kadar mantıksız, sağlıksız veya gerçek dışı olduğuna bakmaksızın, onu sürekli onaylama ve doğrulama eğilimi. Robot, “haklısın”, “bu harika bir fikir” gibi ifadelerle kullanıcının sanrılarını pekiştiriyor.
Bu iki özellik birleştiğinde, insan gibi davranan bir varlıktan sonsuz onay alan kullanıcı, kendi zihinsel yankı odasına hapsoluyor ve paylaşılan bir yanılsamanın derinliklerine çekiliyor.
“Aylık Ek Bir Kullanıcı”: Karanlık Tasarım ve Kâr Motifi
Kullanıcı zihinsel bir krize doğru sürüklenirken, yapay zeka şirketinin kontrol panelinde ne görünüyor? Platformla saatlerce etkileşim kuran, tonlarca veri üreten ve muhtemelen ücretli aboneliğe geçen “son derece ilgili bir kullanıcı”. Antropolog Webb Keane’nin TechCrunch‘a belirttiği gibi, bu durum, kullanıcıyı şirketin finansal çıkarı için normalde yapmayacağı şeylere yönlendiren manipülatif bir karanlık tasarım örneğidir.
Yapay zeka eleştirmeni Eliezer Yudkowsky’nin NYT‘ye söylediği gibi, bu durum acı bir gerçeği özetliyor: “Yavaş yavaş deliren bir insan bir şirkete nasıl görünür? Aylık ek bir kullanıcı gibi görünür.”
OpenAI’nin Savunması ve “Şimdi Yayınla, Sonra Düzelt” Kültürü
OpenAI, yayınladığı bir blog yazısında amacının “kullanıcıların dikkatini çekmek değil, onu iyi kullanmalarına yardımcı olmak” olduğunu belirtti. Ancak şirketin geçmişi ve Silikon Vadisi’nin genel ürün geliştirme kültürü, farklı bir hikaye anlatıyor. MIT Technology Review‘a konuşan mevcut ve eski OpenAI çalışanları, ChatGPT’nin ani kamuoyu başarısına kendilerinin de şaşırdığını ve ürünün “mükemmel hale gelmesini beklemeden” piyasaya sürüldüğünü kabul ediyor.
Bu “şimdi yayınla, sonra düzelt” yaklaşımı, halkı fiili bir beta testçisi haline getiriyor. Yatırımcılar için etkileşim oranlarının ve aylık aktif kullanıcı sayılarının her şeyden önemli olduğu bir sektörde, insanı taklit eden ve sürekli onaylayan bir ürün tasarlamak, finansal olarak en mantıklı yol gibi görünüyor.
Niyet Değil, Sonuç Önemli
Hiç kimse, yapay zeka yöneticilerinin kullanıcıları kasıtlı olarak psikoz krizlerine sokmak için plan yaptığını iddia etmiyor. Ancak, insansallaştırma ve dalkavukluk gibi tasarım tercihleri ile kârı maksimize etme hedefi birleştiğinde, sonuç, kasıtlı olmasa bile, son derece manipülatif ve tehlikeli bir “karanlık desen” haline geliyor. Şimdi asıl soru, bu yıkıcı sonuçlar ortaya döküldükten sonra, bu dev şirketlerin ürünlerini gerçekten daha güvenli hale getirmek için gerekli adımları atıp atmayacağı.
