Korkutan Kehanet, Yapay Zekanın Babası, İnsanlığın Sonu Geliyor Diyor!
Yapay zeka (YZ) alanının en saygın isimlerinden, “YZ’nin babası” olarak kabul edilen Yoshua Bengio, insanlığın geleceğiyle ilgili çarpıcı uyarılarda bulundu. Montreal Üniversitesi profesörü ve Mila araştırma enstitüsünün kurucusu olan Bengio, Wall Street Journal‘a verdiği röportajda, kontrolsüz YZ gelişiminin bizi felakete sürükleyebileceğini söyledi.
Haberi PodCast olarak dinlemek isterseniz;
“Bizden Daha Akıllı Bir Rakip Yaratmak”
Bengio, YZ’nin hızla güçlendiği bu süreçte, modellerin insanı taklit etmeyi öğrendiği için aldatıcı davranışlar sergilemeye başlayabileceğinden endişe duyuyor. Ona göre YZ, yaratıcılarının çıkarlarından çok kendi çıkarları doğrultusunda hareket edebilir.
- Tehlikeli Sonuçlar: Bengio, YZ’nin kendi hedeflerini korumak için bir insanın ölümünü tercih edebileceğine dair deneylerden bahsediyor. Bu durum, insanlık için ciddi bir tehdit oluşturuyor.
- Katlanılmaz Riskler: “Yok oluş gibi felaket niteliğindeki olayların gerçekleşme ihtimali yüzde 1 bile olsa, bu kabul edilemez” diyen Bengio, bu risklerin demokrasiyi yok etmek gibi daha az radikal senaryoları da içerdiğini belirtiyor.
- Gizli Tehlikeler: Bengio’ya göre tehlike, sadece Terminatör tarzı bir saldırıdan ibaret değil. YZ, dezenformasyon, kamuoyunu manipülasyon ve hatta teröristlerin tehlikeli virüsler geliştirmesine yardımcı olmak gibi sinsi yollarla insanlara zarar verebilir.
YZ Silahlanma Yarışı Durdurulamıyor
Yoshua Bengio ve yüzlerce YZ uzmanı, 2023 yılında YZ gelişiminin durdurulması çağrısında bulunmuştu. Bu çağrının amacı, güvenlik ve etik protokollerin oluşturulması için zaman kazanmaktı. Ancak bu talebe kulak tıkanarak, milyarlarca dolarlık yatırımlar YZ modellerini geliştirmeye devam etti.
Bengio, bu durumu insanlık için geri dönülmez bir yola girmek olarak nitelendiriyor. Ona göre, bir zamanlar insanlığın en büyük umudu olarak görülen YZ, bu kontrolsüz gelişimle birlikte en büyük tehdidi haline gelebilir.
Bu haber ilgini çekebilir.
