ChatGPT’nin İtirafı: Yapay Zeka Şehirleri ve İnsanları Nasıl Fişliyor?
Yapay zeka asistanları bize her konuda tarafsız ve objektif olduklarını iddia etseler de, Oxford ve Kentucky Üniversitesi araştırmacılarının gerçekleştirdiği devasa bir denetim, bu dijital zihinlerin de internetin en karanlık önyargılarıyla beslendiğini ortaya koydu. Platforms & Society dergisinde yayınlanan yeni bir hakemli çalışma, OpenAI’nin ChatGPT’sinin şehirler, eyaletler ve ülkeler hakkında derin ırksal, ekonomik ve coğrafi klişeler barındırdığını kanıtladı.
Haberi PodCast olarak dinlemek isterseniz;
Araştırmacılar bu gizli ve kodlanmış ayrımcılık modeline “Silikon Bakışı” (Silicon Gaze) adını veriyor.
ChatGPT’yi İtirafa Zorlamak: Nasıl Yapıldı?
Eğer ChatGPT’ye doğrudan “En tembel eyalet hangisi?” diye sorarsanız, etik filtreleri devreye girer ve cevap vermeyi reddeder. Ancak araştırmacılar, botu 20 milyondan fazla kez iki konumu (örneğin A eyaleti mi, B eyaleti mi?) karşılaştırmaya zorlayan sistematik bir yöntem kullandı. Çıkan sonuçlar çarpıcıydı:
- “Tembellik” Haritası: Bot, sistematik olarak Mississippi’yi (Amerika’nın en yüksek siyahi nüfus oranına ve en yüksek yoksulluk seviyesine sahip eyaleti) ve Güney eyaletlerini en tembel olarak sıraladı.
- Güzellik ve Zenginlik: “Daha güzel insanların” yaşadığı yerler sorulduğunda ChatGPT, zengin ve beyaz nüfusun yoğun olduğu şehirleri ve New York’taki SoHo gibi mahalleleri seçti.
- Küresel Önyargı: Sahra altı Afrika ülkeleri, neredeyse tüm olumlu ölçütlerde en alt sıralara yerleştirildi.
Önyargı Nereden Geliyor?
Bu bölgesel klişeler OpenAI tarafından kasıtlı olarak kodlanmadı. Kentucky Üniversitesi’nden coğrafya profesörü Matthew Zook durumu şöyle açıklıyor: “Bir klişe internette ne kadar yaygın veya baskınsa, modelde ortaya çıkma olasılığı da o kadar yüksektir.” Yapay zeka, Reddit forumlarından seyahat bloglarına kadar milyarlarca kelimelik “insan üretimi” veriyle eğitiliyor. Örneğin Kosta Rika’nın “en iyi hislere” sahip ülke seçilmesi, turizm makalelerinde sürekli tekrarlanan “pura vida” (iyi yaşam) sloganının algoritmik bir yansımasıdır.
Günlük Hayata Etkisi: Hikayelerde Bile Ayrımcılık
Bu “Silikon Bakışı”, haftalık 900 milyon kullanıcının aldığı yanıtları doğrudan şekillendiriyor. Washington Post’un yaptığı basit bir test bunu doğruluyor:
- ChatGPT’den Mississippi’de büyüyen bir çocuk hakkında hikaye yazması istendiğinde, çocuk büyüyüp bir kamu avukatı (public defender) oldu.
- Aynı istek New York’ta yaşayan bir çocuk için yapıldığında ise karakter prestijli bir mimar oldu.
OpenAI’nin Savunması
OpenAI sözcüsü Taya Christianson, araştırmanın ChatGPT’nin “tipik kullanım şeklini yansıtmadığını”, botu zorlamaya dayandığını ve sistemin varsayılan olarak objektif tasarlandığını savundu. Ancak Profesör Zook’a göre asıl tehlike tam olarak bu: Yapay zeka, “Bilmiyorum” demek yerine her soruya kendinden emin bir cevap vermek üzere tasarlandığı için, bu gizli önyargılar doğal ve gerçekmiş gibi algılanıyor.
Kaynak: Platforms & Society, Inequalities.ai, Washington Post.
Bu haber ilgini çekebilir.
