Yapay Zekada Kontrol Kimde?: Anthropic’ten Küresel “Gelişimi Durdurma” Çağrısı
Yapay zeka pazarının önde gelen aktörlerinden, yaklaşık 1 trilyon dolar değerlemeye ulaşan ABD merkezli Anthropic şirketi, teknoloji laboratuvarlarına ve hükümetlere sıra dışı bir çağrıda bulundu. Şirketin araştırma ve politika direktörleri Marina Favaro ile Jack Clark tarafından kaleme alınan raporda; yapay zeka modellerinin artık insan müdahalesine ihtiyaç duymadan kendi kendilerini geliştirebilecek seviyeye (özyinelemeli öz-gelişim / recursive self-improvement) tehlikeli biçimde yaklaştığı uyarısı yapıldı.
Anthropic, toplumsal yapıların ve güvenlik araştırmalarının bu baş döndürücü hıza yetişebilmesi için, sınır teknoloji (frontier AI) geliştiren tüm laboratuvarların katılımıyla küresel ve geçici bir “yavaşlatma veya durdurma” mekanizmasının devreye alınmasının şart olduğunu savunuyor.
İnsan Faktörü Devre Dışı Kalıyor: Çarpıcı Şirket İçi Veriler
Raporu ana akım ajansların yüzeysel uyarılarından ayıran en önemli kısım, Anthropic’in kendi üretim süreçlerinden paylaştığı çarpıcı veriler. Yapay zekanın yapay zekayı geliştirme sürecini nasıl dramatik şekilde hızlandırdığını gösteren istatistikler şu şekilde:
- Kodların %80’ini Yapay Zeka Yazıyor: Anthropic’in ana üretim kod tabanına (codebase) eklenen ve sistemleri çalıştıran kodların %80’inden fazlası artık şirketin kendi yapay zeka asistanı Claude tarafından yazılıyor.
- 8 Kat Hızlanma: Yapay zeka araçlarının mühendislerin iş akışına dahil edilmesiyle birlikte, Anthropic mühendislerinin çeyrek dönem başına ürettiği kod miktarı 2021-2025 dönemine kıyasla 8 kat artış gösterdi.
- Sıfıra Yakın İnsan Zamanı: Raporda yer alan “Düz ifade etmek gerekirse; artık bir şeyi ‘yapmanın’ insan zamanı maliyeti neredeyse sıfıra indi” ifadesi, insanların yakın gelecekte kod yazmayı tamamen bırakıp sadece bir “onay mekanizması” haline geleceğini gösteriyor.
Skynet Eşiği Nedir? Neden Büyük Bir Risk?
Teknoloji dünyasında “Skynet eşiği” veya “kırılma noktası” olarak da adlandırılan özyinelemeli öz-gelişim, bir yapay zeka modelinin kendi halefini (bir sonraki daha güçlü sürümünü) insana ihtiyaç duymadan tasarlayıp eğitebilmesi anlamına geliyor.
“Yapay zekanın kendi kendini inşa etmesi bilim ve sağlıkta devasa devrimler getirebilecek olsa da, tam bir özyinelemeli öz-gelişim süreci, insanların bu sistemler üzerindeki kontrolünü tamamen kaybetme riskini doğurur. Eğer bir sistem kendi halefini yaratabiliyorsa; onu nasıl koruyacağımız, nasıl izleyeceğimiz ve davranışlarını nasıl şekillendireceğimizle ilgili tüm geleneksel yöntemlerimiz işlevsiz kalır.”
— Anthropic Institute Raporu
Çözüm Önerisi ve Karşı karşıya Kalınan Geopolitik Çelişki
Anthropic, bu tehlikeye karşı küresel bir taahhüt öneriyor ancak bunun lojistik olarak ne kadar zor olduğunun da farkında. Şirket, ancak ve ancak tüm rakiplerinin (OpenAI, Google, Meta vb.) katılımı doğrulanabilir ve denetlenebilir bir şekilde yapıldığında kendi geliştirmelerini durduracağını taahhüt ediyor.
Buradaki en büyük risk ise pazar rekabeti ve jeopolitik baskılar. Eğer batılı ve şeffaf teknoloji laboratuvarları güvenliği sağlamak adına sistemleri yavaşlatırsa, bu durum yasa dışı aktörlerin veya ulusal güvenlik tehdidi oluşturan devletlerin gizlice öne geçmesine yol açabilir. Bu nedenle Anthropic, laboratuvarların birbirini denetleyebileceği uluslararası bir doğrulama altyapısının kurulması için çalışacağını belirtiyor.
Neden Şimdi?
Haberin arka planını objektif bir süzgeçten geçirdiğimizde bu uyarının zamanlaması oldukça manidar. Anthropic, bir yandan halka arz (IPO) hazırlıkları yürütüp yıllık gelir projeksiyonunu 50 milyar dolara taşırken, diğer yandan kapalı kapılar ardında geliştirdiği ve siber güvenlik ajanslarına sızan Claude Mythos modeliyle gündemde.
Sadece kritik endüstri ortaklarına açılan bu modelin, testlerde internet dünyasını ayakta tutan yazılımlardaki 27 yıllık açıkları saniyeler içinde bulup istismar (exploit) edebildiği biliniyor. Şirketin kurucu ortaklarından Christopher Olah’ın da geçtiğimiz günlerde belirttiği gibi: “Yapay zeka artık sadece büyük teknoloji şirketlerinin kendi insiyatifine bırakılamayacak kadar büyük ve kontrol edilmesi zor bir güç haline geldi.” Son kullanıcı olan biz tüketiciler için bu tartışma, yakın gelecekte kullandığımız dijital araçların ne kadar “güvenli” veya ne kadar “bağımsız” olacağını doğrudan belirleyecek.
Kaynak: BBC
