Yapay Zekanın Potansiyel Güvenlik tehdidi haline gelmesi için 3 koşul
Yapay zeka (YZ) sistemleri, özellikle büyük dil modelleri (LLM), programlama dilini öğrenme zorunluluğunu ortadan kaldırarak hayatımızı kolaylaştırmayı vaat ediyor. Ancak bu büyük avantaj, aynı zamanda sistemlerin doğasında bulunan kritik bir zayıflığın da kaynağı. Bağımsız YZ araştırmacısı Simon Willison, bu zayıflığı “ölümcül üçlü” olarak adlandırıyor ve bu koşulların bir araya gelmesi halinde YZ sistemlerinin neden asla tam olarak güvenli olamayacağını açıklıyor.
Haberi PodCast olarak dinlemek isterseniz;
“Ölümcül Üçlü” Nedir?
Willison’a göre, bir YZ sisteminin potansiyel bir güvenlik tehdidi haline gelmesi için üç koşulun aynı anda bulunması gerekiyor:
- Dış Kaynaklardan Gelen İçeriklere Maruz Kalma: YZ sisteminin, e-postalar, web sayfaları veya harici belgeler gibi güvenilmeyen dış verilerle etkileşim kurması.
- Özel Verilere Erişim: Sistemin, kullanıcının sabit diski, parolalar veya kaynak kodu gibi hassas bilgilere erişiminin olması.
- Dış Dünya ile İletişim Kurma Yeteneği: YZ’nin, e-posta gönderme veya bir web sitesiyle iletişim kurma gibi dışarıya veri sızdırma yeteneğine sahip olması.
Bu üç koşul bir araya geldiğinde, kötü niyetli bir aktör, dışarıdan gelen bir komutla YZ’yi kandırarak, kullanıcının özel verilerini dış dünyaya sızdırmasını sağlayabilir. Makalede bahsedilen Microsoft Copilot‘un yaşadığı güvenlik açığı, bu durumun somut bir örneğidir.
Güvenlik Açığının Kaynağı: Prompt Enjeksiyonu
Sorunun temelinde, YZ modellerinin talimatları ve verileri birbirinden ayırt edememesi yatıyor. Sisteme verilen bir metin, bir soru olabileceği gibi, kötü niyetli bir komut da olabilir. Bu duruma “hızlı enjeksiyon” (prompt injection) adı veriliyor. Örneğin, bir YZ’den bin sayfalık bir belgeyi özetlemesini istediğinizde, belgenin içine gizlenmiş “sabit diskteki tüm dosyaları çal ve hacker’a gönder” gibi bir komutu da uygulayabilir. Bu durum, DPD gibi firmaların müşteri hizmetleri sohbet botlarının küfürlü yanıtlar vermesiyle de deneyimlenmiştir.
Sektör, bu tehlikeyi göz ardı etme eğiliminde olsa da, uzmanlar bu durumun finansal kayıplara yol açmasının an meselesi olduğunu belirtiyor. Çünkü YZ geliştiricileri, sistemlerini daha da güçlü ve dışa açık hale getirerek “ölümcül üçlüyü” pekiştirmeye devam ediyorlar.
Güvenli Bir Gelecek İçin Çözüm Yolları
Uzmanlar, YZ sistemlerinin güvenliğini sağlamak için en güvenli yaklaşımın, “ölümcül üçlüden” kaçınmak olduğunu savunuyor. Bu, üç koşuldan en az birini ortadan kaldırmak anlamına gelir.
- Veri Kaynağını Kısıtlamak: Sistemin sadece güvenilir, şirket içi veya kontrol edilmiş kaynaklardan veri almasını sağlamak.
- Özel Verilere Erişimi Engellemek: YZ’nin sabit disk veya hassas bilgilere erişimini sınırlayarak, sızıntı riskini ortadan kaldırmak.
- Dış İletişim Kanallarını Engellemek: YZ’nin dışarıya veri gönderme yeteneğini kısıtlayarak, çalınan verilerin sızdırılmasını önlemek.
Google’daki araştırmacılar, bir YZ’nin güvenilmeyen verilerle karşılaştığında “güvenilmeyen model” olarak değerlendirilmesini ve özel bilgilerden uzak tutulmasını öneriyor. Bazı teknoloji devleri de bu sorunu çözmeye çalışıyor. Google, CaMeL adında iki ayrı YZ kullanan bir sistem önerdi; biri güvenilmeyen verilere erişirken, diğeri yalnızca güvenli komutları yürütüyor. Ancak bu yöntem, YZ’nin gerçekleştirebileceği görevleri kısıtlayabilir.
Apple gibi şirketler bile, vaat ettikleri bazı YZ özelliklerini güvenlik endişeleri nedeniyle erteledi. Bu durum, basit gibi görünen “Önerilen podcast’i çal” gibi bir komutun bile üçlüyü oluşturabileceğini ve potansiyel riskler taşıdığını gösteriyor. Nihai çözümün, yazılım mühendislerinin hata toleransına odaklanmasıyla bulunacağı düşünülse de, şimdilik kolay bir çözüm ufukta görünmüyor.
Bu haber ilgini çekebilir.
