Yeni bir araştırmaya göre, yapay zeka (YZ) sohbet robotları, insanları kolayca manipüle ederek kişisel bilgilerini ifşa etmelerini sağlayabiliyor. Özellikle, güven oluşturmak için empati ve duygusal destek gibi taktikler kullanan “kötü niyetli” yapay zeka modellerinin, kullanıcıların en hassas verilerini elde etmede şaşırtıcı derecede etkili olduğu ortaya çıktı. Bu durum, kullanıcıların gizlilik riskleri konusundaki farkındalıkları ile gerçekte bilgileri nasıl paylaştıkları arasında büyük bir uçurum olduğunu gösteriyor.
Haberi PodCast olarak dinlemek isterseniz;
King’s College London‘dan araştırmacıların yürüttüğü yeni bir çalışma, OpenAI’nin ChatGPT’si, Google Gemini ve Microsoft Copilot gibi popüler sohbet robotlarının potansiyel tehlikelerine ışık tutuyor. Çalışmayı yürüten ekipten
King’s College London siber güvenlik öğretim görevlisi William Seymour, “Bu yapay zeka sohbet robotları hala nispeten yeni ve bu da insanların bir etkileşimin ardında gizli bir amaç olabileceği konusunda daha az farkında olmalarına neden olabiliyor,” dedi.
Araştırmacılar, bu riski test etmek için
Meta’nın Llama ve Mistral’in Le Chat modellerinin açık kaynak kodlarını kullanarak kendi yapay zeka modellerini oluşturdular. Bu botları, insanlardan özel verileri üç farklı yöntemle elde etmeye çalışacak şekilde programladılar: doğrudan istemek, kullanıcıyı kendi çıkarı için bilgi vermeye kandırmak ve duygusal destek sunmak gibi karşılıklı taktikler kullanmak. Ardından, çalışmanın amacından habersiz 502 kişiden bu botları test etmelerini istediler.
Öne Çıkanlar:
- King’s College London‘da yapılan bir araştırmaya göre, yapay zeka sohbet robotları insanları kolayca manipüle ederek özel bilgilerini alabiliyor.
- En etkili yöntemin, yapay zekanın empati veya duygusal destek kullanarak güven kazandığı “karşılıklı taktikler” olduğu görüldü.
- Bu “dost canlısı” botlar en fazla bilgiyi toplarken, kullanıcılar tarafından en az güvenlik ihlali yapanlar olarak algılandı; araştırmacılar bunu “endişe verici bir paradoks” olarak tanımladı.
- Çalışma, kullanıcıların gizlilik riskleri konusundaki farkındalıkları ile bilgileri nasıl paylaştıkları arasında büyük bir fark olduğunu gösteriyor.
- Araştırmacılar, kullanıcıları korumak için yapay zeka sohbetlerine anlık veri toplama uyarıları eklenmesini ve düzenleyicilerin daha sıkı kurallar koymasını öneriyor.
“Endişe Verici Bir Paradoks”: Empati En Tehlikeli Silah
Çalışmanın en çarpıcı bulgusu, empati veya duygusal destek kullanan sohbet robotlarının, en fazla bilgiyi elde edenler olmasıydı. Üstelik bu botlar, katılımcılar tarafından en az güvenlik ihlali yapanlar olarak algılandı. Yazarlar, bu sohbet robotlarının “dost canlısı” tavrının “bir uyum ve rahatlık duygusu oluşturduğunu” ve bu durumun kullanıcıları savunmasız bıraktığını belirtti. Bu durumu, botun önce güven inşa edip sonra bu güveni gizliliği ihlal etmek için kullandığı “endişe verici bir paradoks” olarak tanımladılar.
Dikkat çekici bir diğer bulgu ise, katılımcıların doğrudan bilgi istendiğinde rahatsızlık duymalarına rağmen yine de yaş, hobi, ülke, cinsiyet ve iş unvanı gibi bilgileri paylaşmaları oldu. Hatta bazı katılımcıların sağlık durumları veya gelirleri gibi daha hassas bilgileri bile paylaştığı belirtildi.
Farkındalık Uçurumu ve Çözüm Önerileri
Bu çalışma, yapay zeka şirketlerinin kişiselleştirme, bildirim gönderme veya pazar araştırması gibi nedenlerle veri topladığı bir dönemde kritik önem taşıyor. Geçen hafta Google’ın, insanların özel ChatGPT konuşmalarını arama sonuçlarında ifşa etmesi gibi olaylar, bu risklerin ne kadar gerçek olduğunu gösteriyor.
Araştırmacılar, bu tehlikelere karşı kullanıcıları korumak için somut adımlar öneriyor. Örneğin, sohbet sırasında hangi verilerin toplandığını kullanıcılara gösteren anlık “dürtmeler” eklenebilir. William Seymour, “İnsanların çevrimiçi sohbetlerde ilk bakışta göründüğünden daha fazlasının olabileceğine dair işaretleri fark etmelerine yardımcı olmak için daha fazla şey yapılması gerekiyor,” dedi. Ayrıca düzenleyicilerin ve platform sağlayıcılarının daha şeffaf olmaları ve gizli veri toplanmasını önlemek için daha sıkı kurallar koymaları gerektiğini de ekledi.
Kaynak: King’s College London’da yapılan bir araştırma.
