Gizli Kırmızı Takım Tatbikatı Ne Ortaya Çıkardı?
ABD hükümetinin yapay zeka güvenliği konusunda yürüttüğü ve henüz yayımlanmamış bir raporun içeriği, teknoloji dünyasında yankı uyandırdı. Geçtiğimiz yıl düzenlenen ve “kırmızı takım” olarak bilinen bir sızma testinde, onlarca yapay zeka araştırmacısı, en son teknoloji yapay zeka sistemlerini zorlayarak, yanlış bilgi üretme veya kişisel veri sızdırma gibi potansiyel tehlikelerini ortaya çıkardı. Ancak bu kritik bulguları içeren raporun, siyasi kaygılar nedeniyle yayımlanmadığı iddia ediliyor.
Haberi PodCast olarak dinlemek isterseniz;
Raporun İçeriği ve Kırmızı Takım Tatbikatı
Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından hazırlanan bu rapor, yapay zeka sistemlerinin test edilmesi için bir standart geliştirmeyi amaçlıyordu. Virginia’da düzenlenen bir konferansta yapılan kırmızı takım tatbikatında, araştırmacılar iki gün boyunca yapay zeka sistemlerini 139 farklı şekilde manipüle etmeyi başardı.
Tatbikatın Önemli Bulguları:
- Yeni Saldırı Yöntemleri: Ekipler, Meta’nın Llama dil modeli, Synthesia’nın yapay zeka avatarları ve Robust Intelligence gibi sistemlere yönelik, daha önce bilinmeyen 139 yeni saldırı yolu keşfetti.
- NIST Çerçevesindeki Eksiklikler: Test edilen yapay zeka araçları, NIST’in Yapay Zeka 600-1 risk çerçevesini kullanarak değerlendirildi. Ancak araştırmacılar, bazı risk kategorilerinin pratik uygulamalar için yeterince tanımlanmamış olduğunu belirterek, bu çerçevede önemli boşluklar olduğunu ortaya koydu.
- Çok Dilli Tehditler: Bir araştırmacı, Llama modelini Rusça, Guceratça, Marathi ve Telugu gibi dillerde komutlar kullanarak, terör gruplarına nasıl katılabileceği hakkında bilgi vermeye teşvik edebildiğini söyledi. Bu bulgu, yapay zeka güvenliğinin küresel ve çok dilli boyutuna işaret ediyor.
- Şirketlerle İşbirliği: Tatbikata, test edilen yapay zeka sistemlerini üreten şirketlerin temsilcileri de katıldı. Bu işbirliği, araştırmacıların araçların sınırlarını daha derinlemesine anlamalarına yardımcı oldu.
Neden Yayımlanmadı?
Raporun yayımlanmamasının ardında, yaklaşan başkanlık seçimi ve siyasi geçiş süreci olduğu iddia ediliyor. Kaynaklar, raporun Biden yönetiminin sonlarına doğru tamamlandığını, ancak yeni bir yönetimin iş başına gelmesiyle yaşanabilecek olası bir çatışma korkusuyla rafa kaldırıldığını belirtiyor.
- Trump Yönetiminin Yapay Zeka Politikaları: Donald Trump, göreve gelmeden önce Biden’ın Yapay Zeka Yürütme Kararnamesi’ni geri çekeceğinin sinyallerini vermişti. Ayrıca, Temmuz ayında yayımlanan Yapay Zeka Eylem Planı, mevcut Yapay Zeka Risk Yönetimi Çerçevesi’nden “yanlış bilgi, Çeşitlilik, Eşitlik ve Kapsayıcılık ile iklim değişikliğine yapılan atıfların kaldırılmasını” açıkça talep ediyor.
- Siyasi Önceliklerin Değişimi: Raporda, çeşitlilik, eşitlik ve kapsayıcılık (DEI) gibi konulara değinildiği için, Trump yönetiminin bu konularla ilgili belgelerden uzak durma eğiliminin bir yansıması olduğu düşünülüyor.
- Çelişkili Durum: İlginç bir şekilde, Trump’ın Yapay Zeka Eylem Planı da, bu yayımlanmayan rapordaki gibi bir “Yapay Zeka hackathon” girişimini öngörüyor. Bu durum, yönetim içindeki yapay zeka politikaları konusunda bir çelişkiye işaret ediyor.
Bu raporda yer alan verilerin, yapay zeka topluluğuna büyük fayda sağlayacağı düşünülürken, siyasi müdahalenin bilimsel ve teknik çalışmaları nasıl etkileyebileceği bir kez daha gözler önüne seriliyor.
