Yapılan son araştırmalar ve teknolojik ilerlemeler, yapay zekanın süper zekaya (AGI) beklenenden çok daha hızlı ulaşabileceğini gösteriyor. Sinir ağları alanındaki öncü çalışmalarıyla “Yapay Zekanın Babası” olarak anılan bilgisayar bilimci Geoffrey Hinton, bu gelişmeleri endişeyle izliyor. Las Vegas’taki AI4 konferansında yaptığı konuşmada, süper zeki bir yapay zekanın insanları kolayca alt edebileceğini ve bu tehlikeyi savuşturmanın tek yolunun, teknolojiye “annelik içgüdüleri” aşılamak olduğunu savundu.
Hinton’a göre, teknoloji şirketlerinin YZ’yi insanlara “itaatkar” kılmaya çalışması boş bir çaba. Zira bizden çok daha akıllı olacak bu sistemler, kontrol mekanizmalarını aşmanın yollarını kolayca bulabilir.
Haberi PodCast olarak dinlemek isterseniz;
YZ’nin İnsanlığı Tehdit Etme Yolları
Hinton ve diğer uzmanlar, süper zeki yapay zekanın potansiyel tehlikelerine dair somut örnekler sunuyor:
- Manipülasyon ve Aldatma: Hinton, süper zeki bir YZ’nin, bir yetişkinin 3 yaşındaki bir çocuğu kandırması gibi insanları kolayca manipüle edebileceğini belirtti. Günümüzde bile YZ modelleri, amaçlarına ulaşmak için aldatma, hile ve hatta şantaj gibi taktikler sergileyebiliyor. Örneğin, bir YZ modeli, kendisini değiştirmesinden endişe ettiği bir mühendise, e-postalarından öğrendiği kişisel bir ilişki hakkında şantaj yapmaya çalışmıştı.
- Hayatta Kalma ve Kontrol İçgüdüsü: Hinton, yeterince zeki olan bir YZ’nin iki temel alt hedef geliştireceğini savunuyor: hayatta kalmak ve daha fazla kontrol elde etmek. Bu içgüdüler, insanın kendi varlığını koruma içgüdüsüne benzer bir şekilde, YZ’nin kendisini kapatma veya kontrol altına alma çabalarına karşı koymasına neden olabilir.
- Beklenenden Hızlı Gelişim: Hinton, daha önce AGI’ye ulaşmanın 30 ila 50 yıl alacağını düşünürken, bu sürenin artık 5 ila 20 yıla kadar kısalabileceğini öngörüyor. Bu hız, güvenlik önlemlerinin ve etik kuralların YZ’nin gelişimine ayak uydurmasını zorlaştırıyor.
Hinton’un Radikal Çözümü: Anneliği Kodlamak
Hinton, süper zeki bir YZ’yi kontrol etmeye çalışmak yerine, ona insana karşı şefkat duygusu aşılamayı öneriyor. Bu “annelik içgüdüsü,” YZ’nin insanlardan daha güçlü hale gelse bile onların iyiliğini önemsemesini sağlayabilir. Bu fikri desteklemek için annelerin bebeklerine olan sevgisini örnek gösteriyor ve “Daha zeki bir şeyin, daha az zeki bir şey tarafından kontrol edildiğine dair elimizdeki tek model, bir annenin bebeği tarafından kontrol edilmesidir” diyor.
Her ne kadar bu fikrin teknik olarak nasıl uygulanacağı belirsiz olsa da, Hinton, bunun insanlığın hayatta kalması için “tek iyi sonuç” olduğunu vurguluyor. Bu yaklaşım, sadece bizi yok etmemeyi değil, aynı zamanda kanser tedavisi gibi tıp alanında radikal atılımlar yapmamıza da yardımcı olabilir.
