Google, Yapay Zeka Güvenlik Açıklarını Bulanlara 30.000 Dolar Ödül Veriyor
Google, yapay zeka ürünlerindeki güvenlik açıklarını bulmaları için siber güvenlik araştırmacılarına yönelik yeni bir ödül programı başlattı. Şirket, yapay zeka botlarının “kural dışı eylemlere” yol açtığı güvenlik açıklarını rapor edenlere 30.000 dolara kadar ödeme yapacak.
Google’ın öncelikli olarak aradığı güvenlik açıkları, bir yapay zeka modelinin kullanıcıya veya sisteme zarar vermesini sağlayan durumlar. Bu hatalara örnek olarak, yapay zekaya verilen dolaylı bir komutla Google Home’un bir kapıyı açması ya da kullanıcının e-postalarını özetleyip saldırganın hesabına göndermesi gösteriliyor. Şirket, bu tür güvenlik açıklarını en tehlikeli ve en çok ödüllendirilen kategori olarak belirledi.
Ödül Programının Detayları
Yeni ödül programı, yapay zeka hatalarını net bir şekilde tanımlıyor ve en yüksek ödül olan 20.000 doları, başta Google Search, Gemini ve Gmail gibi amiral gemisi ürünlerde bulunan “kural dışı eylemler” için veriyor. Raporun kalitesi ve bulunan hatanın daha önce bilinmeyen yeni bir yöntem olması durumunda, ödül miktarı 30.000 dolara kadar çıkabiliyor.
Google, yapay zekanın nefret söylemi veya telif hakkı ihlali gibi içerikler üretmesi gibi durumların ise güvenlik açığı olarak değerlendirilmediğini, bu tür sorunların doğrudan ürün içi geri bildirim kanalları üzerinden bildirilmesi gerektiğini belirtti. Bu sayede yapay zeka güvenlik ekipleri, modelin davranışını daha uzun vadeli çözümlerle iyileştirebiliyor.
Şirket, bu program aracılığıyla son iki yılda güvenlik araştırmacılarına 430.000 dolardan fazla ödeme yaptığını da açıkladı. Bununla birlikte, savunmasız kodları otomatik olarak onaran CodeMender adlı yapay zeka aracını da duyurdu. Google’a göre bu araç, bir insan araştırmacının denetiminden geçtikten sonra açık kaynak projelerinde 72 güvenlik düzeltmesi yaptı.
