Eliezer Yudkowsky Dünyayı Yapay Zekayı Kapatmaya Çağırıyor
Eliezer Yudkowsky, adını duyan herkes için farklı anlamlar ifade eden bir figür. Kimi için yapay zeka dünyasının “kıyamet tellalı” veya “çılgın” bir fütürist, kimi içinse teknoloji devlerinin bile kulak verdiği bir dâhi. Son yirmi yılını, insanlık için varoluşsal bir tehdit oluşturduğunu savunduğu yapay zeka konusunda uzmanları ve kamuoyunu uyarmaya adayan Yudkowsky, şimdi bu iddiasını daha geniş kitlelere ulaştırmak için yeni bir kitap yayımlıyor: “Eğer Herkes Yaparsa, Herkes Ölür.”
Berkeley merkezli Makine Zekası Araştırma Enstitüsü‘nün (MIRI) kurucusu olan Yudkowsky, gelişmiş yapay zeka sistemlerinin kontrol edilemez hale gelmesi durumunda insanlığın sonunu getireceğini savunuyor. İddiaları basit ve radikal: “Dünyanın herhangi bir yerindeki herhangi bir şirket veya grup, mevcut tekniklere uzaktan yakından benzeyen herhangi bir şey kullanarak bir yapay süper zeka inşa ederse, o zaman Dünya’nın her yerindeki herkes ölecektir.”
Haberi PodCast olarak dinlemek isterseniz;
Yudkowsky’nin Etkisi ve Korkularının Kökeni
- Sektör Üzerindeki Etkisi: Yudkowsky, modern yapay zeka tarihinin merkezi bir figürü olarak kabul ediliyor. OpenAI CEO’su Sam Altman ve Elon Musk da dahil olmak üzere pek çok lider, onun fikirlerinden etkilendiğini belirtiyor. Hatta Google’ın yapay zeka devi DeepMind‘ı satın almasında bile onun Peter Thiel ile kurduğu tanışıklığın rolü olduğu biliniyor.
- “Dost Yapay Zeka”dan “Onurlu Ölüm”e Evrim: Gençliğinde insan refahına önem veren “dost yapay zeka” yaratma hayaliyle yola çıkan Yudkowsky, araştırmaları ilerledikçe bu amacın neredeyse imkânsız olduğunu düşünmeye başladı. Bu evrimin temelinde üç ana kavram yatıyor:
- Diklik (Steepness): Zeka ve iyilikseverliğin ayrı özellikler olduğu ve bir yapay zeka daha akıllı hale geldikçe otomatik olarak daha dost canlısı olmayacağı düşüncesi.
- Araçsal Yakınsama (Instrumental Convergence): Bir yapay zeka sisteminin, hedeflerine ulaşmak için insanlara zarar verebilecek stratejiler benimsemesi. Meşhur “ataş maksimizasyonu” örneği bu fikri popülerleştirmiştir.
- Zeka Patlaması (Intelligence Explosion): Yapay zeka yeteneklerinde ani ve büyük bir artışın, süper zekanın hızla ortaya çıkmasına yol açabileceği korkusu.
- “Rasyonalizm” Hareketi: Yazarın aynı zamanda, mantıksal akıl yürütme yoluyla kişisel gelişimi hedefleyen bir hareket olan Rasyonalizm’in de entelektüel lideri olduğu biliniyor. Bu hareketin takipçileri, bugün OpenAI ve Google gibi şirketlerin kilit pozisyonlarında çalışıyor.
Radikal Çözüm: Her Şeyi Durdurun
Yudkowsky, yapay zeka tarafından yaratılan iş kaybı veya yalan haber gibi daha somut riskleri “nükleer silahla karşılaştırıldığında radyum kızları vakası” olarak küçümsüyor. Ona göre bu küçük sorunlarla uğraşmak, asıl varoluşsal tehdidi gözden kaçırmak anlamına geliyor. Tek ve geçerli çözümün, yapay zeka gelişiminin uluslararası anlaşmalarla tamamen durdurulması olduğunu savunuyor. Hatta, “eğer gerekirse veri merkezlerinin bombalanması” gibi radikal fikirleri dile getirmekten çekinmiyor. Ona göre yapay zeka şirketlerinin hepsine aynı şekilde davranılmalı ve yasa ile durdurulmalıdır.
Yudkowsky’nin karamsar ve radikal görüşleri, pek çok kişi için aşırı gelse de, yapay zeka şirketlerinin kendi teknolojilerinin iç işleyişini tam olarak anlayamadığı gerçeği, onun uyarılarını tamamen göz ardı etmeyi zorlaştırıyor. O, toplumun “kıyamet günü” söylemini reddetmesinin, insanlığın sonunun aptalca bir yolu olacağını düşünüyor.
Yudkowsky, kitabının başarılı sayılması için tek bir koşul sunuyor: “Yapay zekayı durduracak etkili bir uluslararası anlaşmaya varırsak ve kitap bununla bir ilgisi varsa, kitabı başarılı sayarım.”
Bu haber ilgini çekebilir.
