Haberi Podcast olarak dinlemek isterseniz
Yapay Zeka Güvenliği Tartışmalarında Yeni Perde: Zuckerberg “Piyasa Kendi Kendini Düzenler” Dedi
Son günlerdeki “Yapay zeka insanlığın sonunu getirebilir” tartışmalarına, bu kez Meta’nın kurucusu ve CEO’su Mark Zuckerberg de kendi perspektifiyle katıldı.
X platformunda paylaştığı kapsamlı açıklamalarla Zuckerberg, yapay zeka gelişiminin yavaşlatılması gerektiği yönündeki çağrılara karşı çıkarak farklı bir çözüm yolu sundu. Gelin, Zuckerberg’in açıklamalarının detaylarına bakalım.
“Yavaşlamaya Gerek Yok, Sorumluluk Almaya İhtiyaç Var”
Zuckerberg’in bu açıklamaları, Anthropic araştırmacısı Jacob Coxon’ın şirketlerin yeterli güvenlik önlemleri almadan kendi kendini geliştiren sistemleri aceleyle piyasaya sürdüğünü söyleyerek istifa etmesinin hemen ardından geldi. Üstelik bu istifaya, OpenAI güvenlik araştırmacısı Marcus Williams’ın laboratuvarlar yavaşlamazsa 3 yıl içinde insanlığın yok olma ihtimalini %70 olarak gösteren tahmini de eklenmişti.
Ancak Zuckerberg, sektör çapında koordineli bir yavaşlamaya veya hükümet müdahalesine gerek olmadığını savunuyor. Bunun yerine, her geliştiricinin kendi yapay zeka modellerinin güvenliğini sağlamak için bağımsız olarak gerekli adımları atması gerektiğini belirtiyor.
Zuckerberg’in en dikkat çekici argümanlarından biri piyasa dinamikleriyle ilgili:
- Serbest pazar baskısının, yapay zeka laboratuvarlarını yeni regülasyonlara gerek kalmadan güvenlik ve uyum (alignment) konusuna öncelik vermeye zorlayacağını ifade etti.
- İnsanların, kendileriyle uyumlu olmayan ve verdikleri komutları yerine getirmeyen yapay zeka ajanlarını kullanmak istemeyeceğini vurguladı.
- Bu bağlamda güvenin, yapay zeka endüstrisindeki “en değerli özellik” haline geldiğini ve laboratuvarların, modellerini insanlığın hedefleriyle uyumlu hale getirmek için çok güçlü bir doğal teşvike sahip olduğunu savundu.
Meta’dan “Muse” Örneği ve Bağımsız Denetim Vurgusu
Somut adımlardan da bahseden Zuckerberg, kendi şirketi içindeki Meta Superintelligence Labs’in (MSL) bu konudaki tutumunu örnek gösterdi. Meta’nın “Muse” adlı yapay zeka asistanının normalde Nisan ayında planlanan çıkışının, güvenlik ve emniyet standartlarını artırmak amacıyla aylar sonrasına ertelendiğini belirtti.
Buradaki kritik nokta, Zuckerberg’in diğer laboratuvarlara bir gönderme yapmasıydı:
- Muse’un çıkışını ertelerken diğer şirketlere de yavaşlama çağrısında bulunmadıklarını, bu durumu tamamen kendi günlük sorumluluklarının bir parçası olarak gördüklerini söyledi.
- Riskleri değerlendirmek için bağımsız uzmanları ve danışmanları sürece dahil etmenin endüstrinin en iyi pratiklerinden biri olduğunu belirtti.
- Ayrıca, bilgi işlem (compute) gücünün büyük kısmının modellerin kendi kendini geliştirmesine değil, insanlara hizmet etmeye yönlendirilmesinin geliştirme sürecini güvenli tutacağını savundu.
Tüketici Beklentisi Ne Olmalı?
Zuckerberg’in Ağustos ayında yayınladığı bir makalede de belirttiği gibi, süper zeki sistemlerin kontrolü tek bir şirketin veya hükümetin elinde olmamalı; bunun yerine teknoloji tabana yayılarak bireyleri güçlendirmelidir.
Bazı araştırmacılar yapay zekanın sınırlandırılmasını ve katı kurallar getirilmesini isterken, Zuckerberg rekabete ve şirketlerin itibarlarını koruma içgüdüsüne güveniyor. Ortadaki bu devasa vizyon ayrılığında kimin haklı çıkacağını zaman gösterecek. Ancak gelecek için, kullandığımız teknolojilerin güvenlik standartlarını ve bağımsız kurumlarca denetlenip denetlenmediğini her zamankinden daha fazla sorgulanacak gibi görünüyor.
