Yazarken Otomatik Tamamlama Kullanıyorsanız Dikkat!
E-posta yazarken veya bir arama çubuğuna metin girerken beliren o “kullanışlı” otomatik tamamlama önerileri, sandığımızdan çok daha karanlık bir psikolojik etkiye sahip. Sadece zamandan tasarruf etmemizi sağlamıyor; kelimeleri bizim yerimize seçerken, sessizce inançlarımızı ve düşünce yapımızı da yeniden kodluyor.
Haberi PodCast olarak dinlemek isterseniz;
Cornell Üniversitesi tarafından yürütülen güncel bir araştırma, yapay zeka (YZ) destekli yazım asistanlarının sadece dilimizi “kibarlaştırmakla” kalmadığını, sosyopolitik görüşlerimizi de doğrudan manipüle edebildiğini kanıtladı.
Cornell Üniversitesi Araştırması: Görünmez Yönlendirme
Bilgi bilimi profesörü Mor Naaman liderliğinde yürütülen ve temelleri 2023 yılına dayanan araştırma, kullanıcıların tartışmalı siyasi ve sosyal konulardaki (örneğin ölüm cezası) fikirlerinin YZ tarafından nasıl yönlendirildiğini test etti. Ortaya çıkan veriler, teknoloji ve psikoloji arasındaki ilişkinin ne kadar kırılgan olduğunu gösteriyor:
- Etki Kaçınılmaz: Katılımcılar, sadece kendilerine sunulan önyargılı otomatik tamamlama metinlerini gördüklerinde bile, pozisyonlarını YZ’nin savunduğu yöne doğru kaydırdı.
- Reddetmek İşe Yaramıyor: Kullanıcı, YZ’nin önerdiği metni hiç kullanmamış ve kendi cümlesini baştan yazmış olsa dahi, zihinsel olarak o önerinin etkisinde kalarak fikrini değiştirdi.
- Farkındalık Körlüğü: Çalışmaya katılan kişilerin neredeyse hiçbiri, YZ önerilerinin taraflı olduğunu düşünmedi veya kendi fikirlerinin anket süresince değiştiğini fark etmedi.
- Uyarılar Etkisiz: Araştırmacılar, katılımcıları “YZ yanlış veya taraflı bilgi verebilir” diye önceden uyarmasına rağmen, bu uyarılar ikna edici etkiyi zerre kadar azaltmadı.
‘Kullanıcı Deneyimi’ vs. ‘Bilişsel Yönlendirme’
Bu tabloyu sektörel bir çerçeveye oturttuğumuzda, karşımıza çıkan manzara oldukça net:
| Beklenen YZ İşlevi (UI/UX) | Gerçekleşen Psikolojik Etki |
| Zaman kazandırmak ve yazımı hızlandırmak. | Kullanıcının ifade özgürlüğünü standartlaştırıp sıradanlaştırmak. |
| Gramer ve ton düzeltmesi yapmak. | Siyasi ve sosyal konularda “algoritmanın doğrusunu” empoze etmek. |
| Kullanıcıya tarafsız öneriler sunmak. | Bilinçaltı seviyesinde “bilişsel yönlendirme” (cognitive steering) yapmak. |
Profesör Naaman’ın, “İnsanlara YZ’nin önyargılı olacağı konusunda dikkatli olmalarını söyledik ama hiçbir şey işe yaramadı,” itirafı, algoritmaların insan psikolojisindeki savunma mekanizmalarını nasıl kolayca aşabildiğinin en net özetidir.
Otoriter Çıkarım: Teknoloji Şirketleri Düşünceyi Kontrol mü Ediyor?
Belirtmeliyim ki; otomatik tamamlama araçlarının her platforma (Google Workspace, Microsoft Copilot, Apple Intelligence) bu kadar derinden entegre edilmesi, bu şirketlere devasa bir “düşünce mühendisliği” gücü veriyor. Eğer bir algoritma sürekli belirli bir dünya görüşüne uygun kelimeleri öneriyorsa, toplumun o konudaki genel kanısı da yavaş ama kaçınılmaz bir şekilde o yöne evrilecektir. Bu artık bir yazılım sorunu değil, küresel bir sosyolojik güvenlik açığıdır.
Kaynak: Cornell University Information Science Research, Prof. Mor Naaman Statements.
Bu haber ilgini çekebilir.
Summary in English
A recent Cornell University study led by Professor Mor Naaman reveals that AI-powered autocomplete tools do more than just save time; they unconsciously manipulate users’ sociopolitical opinions and thought patterns. The research demonstrates that even when participants reject the AI’s biased text suggestions or are explicitly warned about potential algorithmic bias, their viewpoints still shift toward the algorithm’s stance without them realizing it. This phenomenon, termed “cognitive steering,” suggests that the deep integration of these tools into everyday platforms grants tech companies unprecedented power over societal opinions, posing a significant psychological and sociological security risk.
Zusammenfassung auf Deutsch
Eine aktuelle Studie der Cornell University unter der Leitung von Professor Mor Naaman zeigt, dass KI-gestützte Autovervollständigungstools nicht nur Zeit sparen, sondern auch unbewusst die gesellschaftspolitischen Meinungen und Denkmuster der Nutzer manipulieren. Die Forschung belegt, dass selbst dann, wenn Teilnehmer die voreingenommenen Textvorschläge der KI ablehnen oder ausdrücklich vor möglichen algorithmischen Verzerrungen gewarnt werden, sich ihre Standpunkte ohne ihr Wissen in Richtung der Haltung des Algorithmus verschieben. Dieses als „kognitive Lenkung“ bezeichnete Phänomen deutet darauf hin, dass die tiefe Integration dieser Werkzeuge in alltägliche Plattformen den Technologieunternehmen eine beispiellose Macht über gesellschaftliche Meinungen verleiht, was ein erhebliches psychologisches und soziologisches Sicherheitsrisiko darstellt.
Résumé en français
Une récente étude de l’Université Cornell dirigée par le professeur Mor Naaman révèle que les outils de saisie semi-automatique basés sur l’IA ne se contentent pas de faire gagner du temps ; ils manipulent inconsciemment les opinions sociopolitiques et les schémas de pensée des utilisateurs. La recherche démontre que même lorsque les participants rejettent les suggestions de texte biaisées de l’IA ou sont explicitement avertis des biais algorithmiques potentiels, leurs points de vue se déplacent à leur insu vers la position de l’algorithme. Ce phénomène, appelé « orientation cognitive », suggère que l’intégration profonde de ces outils dans les plateformes quotidiennes accorde aux entreprises technologiques un pouvoir sans précédent sur l’opinion publique, posant un risque de sécurité psychologique et sociologique majeur.
