Yoğun bir tren istasyonunda, kameraların yapay zekaya anlık veri akışı sağladığını ve operasyonları yönettiğini hayal edin. Peki ya bir saldırgan, kırmızı bir lazerle kameraları kandırarak boş peronları “dolu” gibi gösterirse ne olur? Yapay zeka, bu sahte veriyi öğrenip tren seferlerini kaosa sürükleyebilir, hatta ölümcül kazalara yol açabilir. İşte bu tehlikeli senaryo, “veri zehirlenmesi” olarak bilinen ve yapay zeka sistemlerinin en zayıf noktalarından birini oluşturan siber saldırı türüdür.
Haberi PodCast olarak dinlemek isterseniz;
Bu alanda çalışan Florida Uluslararası Üniversitesi‘nden bilgisayar bilimcileri Doç. Dr. M. Hadi Amini ve doktora öğrencisi Ervin Moore, veri zehirlenmesinin nasıl çalıştığını ve blockchain gibi teknolojilerin bu tehdide karşı nasıl bir savunma hattı oluşturabileceğini açıklıyor. Yaptıkları araştırma, ABD Ulaştırma Bakanlığı’na bağlı Ulusal Ulaştırma Siber Güvenliği ve Dayanıklılık Merkezi (TraCR) tarafından da destekleniyor.
Veri zehirlenmesi, bir yapay zeka modelinin eğitim verilerinin kasıtlı olarak bozuk, yanlış veya yanıltıcı bilgilerle kirletilmesi anlamına geliyor. Zamanla bu “zehirli” verilerden öğrenen yapay zeka, hatalı kararlar vermeye ve beklenmedik şekilde davranmaya başlıyor. Bu durumun en ünlü örneklerinden biri, 2016 yılında Microsoft’un sohbet robotu Tay‘in başına gelmişti. Kötü niyetli kullanıcıların ırkçı ve saldırgan ifadelerle botu bombardımana tutması sonucu Tay, 24 saatten kısa bir sürede kendisi de nefret söylemi üretmeye başlamış ve Microsoft tarafından apar topar kapatılmıştı.
Öne Çıkanlar:
- Veri Zehirlenmesi Tehdidi: Saldırganlar, yapay zeka sistemlerinin eğitim verilerine kasıtlı olarak yanlış bilgi ekleyerek sistemin hatalı kararlar almasına ve operasyonların sabote edilmesine neden olabilir.
- Fiziksel Riskler: Tren istasyonu örneğinde olduğu gibi, kritik altyapıları yöneten yapay zekalara yönelik bir veri zehirlenmesi saldırısı, ölümcül sonuçlar doğurabilir.
- Microsoft Tay Vakası: Veri zehirlenmesinin en bilinen örneği, Microsoft’un sohbet robotu Tay’in kullanıcılardan öğrendiği nefret söylemleri nedeniyle 24 saat içinde kapatılmasıdır.
- Çözüm Olarak Federatif Öğrenme: Verilerin merkezi bir sunucuda toplanması yerine, yapay zekanın dağınık kaynaklardan öğrenmesini sağlayan bu yöntem, tek bir zehirli veri kaynağının tüm sistemi etkilemesini zorlaştırır.
- Blockchain Kalkanı: Araştırmacılar, işlemlerin şeffaf ve değiştirilemez bir kaydını tutan blockchain teknolojisinin, zehirli verilerin tespit edilmesi, kaynağına kadar izlenmesi ve engellenmesi için güçlü bir kalkan olabileceğini belirtiyor.
Merkezi Olmayan Savunma: Federatif Öğrenme ve Blockchain
Amini ve Moore, Florida Uluslararası Üniversitesi’ndeki Solid Lab‘de yürüttükleri çalışmalarda, bu saldırılara karşı merkezi olmayan savunma mekanizmalarına odaklanıyor. İlk savunma katmanı, yapay zekanın verileri tek bir yerde toplamadan farklı cihazlardan öğrenmesini sağlayan “federatif öğrenme”. Bu yöntem, tek bir hata noktasını ortadan kaldırarak saldırı yüzeyini daraltıyor.
Ancak asıl güçlü kalkan, blockchain teknolojisiyle geliyor. Değiştirilemez bir dijital kayıt defteri olan blockchain, yapay zeka modeline eklenen her verinin ve güncellemenin güvenli, şeffaf ve zaman damgalı bir kaydını tutuyor. Bu sayede:
- Anormal ve potansiyel olarak zehirli veri girişleri, sisteme yayılmadan önce otomatik olarak tespit edilebiliyor.
- Saldırının kaynağı, zaman damgaları sayesinde kolayca bulunabiliyor.
- Birbirleriyle “konuşabilen” blockchain ağları, bir tehdit tespit edildiğinde diğer sistemleri uyarabiliyor.
Florida’daki Solid Lab ekibi, hem federatif öğrenmeyi hem de blockchain’i birleştiren yeni bir araç geliştirdiklerini belirtiyor. Yapay zeka sistemleri hayatımızın daha kritik alanlarına girdikçe, veri zehirlenmesi gibi tehditler de artacaktır. Ancak blockchain gibi yenilikçi savunma mekanizmaları, daha dayanıklı ve güvenilir bir yapay zeka geleceği inşa etmeye yardımcı olabilir.
