Erotik Chatbot, Milyonlarca Kadın Fotoğrafını İfşa Etti
SAN FRANCISCO — Erotik rol yapma sohbet robotu ve yapay zeka görsel oluşturma platformu SecretDesires.ai, kullanıcıları tarafından yüklenen yaklaşık iki milyon fotoğraf ve videoyu içeren bulut depolama alanlarını korumasız bırakarak büyük bir veri sızıntısına neden oldu. Sızıntı, tanınmış ünlülerden sosyal medyada çekilmiş sıradan kadınlara kadar, çok sayıda kişinin rızası olmadan cinsel içerikli yapay zekâ (AI) pornolarının oluşturulduğunu gözler önüne serdi.
Haberi PodCast olarak dinlemek isterseniz;
Gizli Arzular, İfşa Edilen Gerçekler
404 Media’dan Samantha Cole‘un haberine göre, platformun güvenli olmayan Microsoft Azure Blob kapsayıcılarında depolanan bu veriler, herkesin erişimine açık kaldı. Sızıntının, muhtemelen aylarca devam ettiği düşünülüyor.
Öne Çıkan Skandal Detayları:
- Sızıntının Kapsamı: Toplamda yaklaşık 1,8 milyon ayrı dosya ifşa edildi.
- Hassas Veriler: İfşa edilenler arasında, kadınların sosyal medya profillerinden, iş yerlerinden, mezuniyet törenlerinden veya tatillerden çekilmiş gerçek fotoğrafları yer alıyordu. Bazı dosya adları, fotoğraftaki kadınların tam ad ve soyadlarını içeriyordu.
- Yöntem: Secret Desires, ücretli aboneliklerinin bir parçası olarak, kullanıcıların gerçek kişilerin fotoğraflarını yükleyerek onları yapay zekâ tarafından oluşturulan sert cinsel içerikli resim ve videoların (“canlı fotoğraflar”) içine yerleştirmesine olanak tanıyan bir “yüz değiştirme” özelliğine sahipti.
- Mağdurlar: Veritabanında, dijital ayak izi çok az olan, tamamen rastgele kadınların, fenomenlerin, yetişkin sanatçıların ve ünlülerin fotoğrafları bulundu.
- Kötüye Kullanım Amacı: Yüklenen fotoğrafların çoğu, kullanıcıların gizli arzularını gerçekleştirmek üzere, hedefteki kadınların rızası olmadan cinsel içerikli görsellerini oluşturmak için kullanıldığı şüphesini doğuruyor.
Platformun CEO’su Jack Simmons, 404 Media’nın Pazartesi günü iletişime geçmesinin ardından yaklaşık bir saat içinde dosyalara erişimi engelledi, ancak sızıntının neden ve ne kadar süre güvensiz kaldığına dair yorum yapmadı.
“Yapay Zeka Kızlar Asla Hayır Demez” Pazarlaması
Secret Desires, YouTube ve Discord gibi platformlarda yaptığı agresif pazarlama ile kullanıcıları, gerçek hayattaki bağlantılardan vazgeçmeye ve ideal bir gerçeklikte her şey olabilecek bir yapay zekâ arkadaşı edinmeye teşvik ediyor. Reklamlarında, yapay zekâ kadınların “En sevdiğiniz ünlü gibi görünebilirim. Spor salonundaki o kız. Hayalinizdeki anime karakteri veya fantezisini kurduğunuz herhangi biri? Sizin için her şeyi yapabilirim” gibi ifadelerle pazarlanması, kullanıcıları tanıdıkları kadınların rızasız deepfake’lerini oluşturmaya yönlendirdiğini açıkça gösteriyor.
Güvenlik Vaatleri Havada Kaldı
Secret Desires web sitesinde, mesajlar ve veri depolama için uçtan uca şifreleme ve gelişmiş güvenlik protokolleri kullandığını iddia etmesine rağmen, ifşa edilen konteynerler bu iddiaların tamamen tersini kanıtladı. Bu durum, teknoloji şirketlerinin kullanıcı güvenliğini sağlamadaki yetersizliğini ve ihmallerini gözler önüne seriyor.
ECFR Politika Uzmanı Rafael Loss‘a göre, yüz değiştirme uygulamaları ve erotik chatbotlar, eski sevgililerin, tanıdıkların ve rastgele kadınların rızasız cinsel içerikli deepfake’lerini oluşturmak için sapıklar ve tacizciler tarafından kullanılma riski taşıyor. Bu tür rızasız cinsel deepfake’lerin hedefler üzerindeki yıkıcı sonuçları (kariyer, özgüven ve fiziksel güvenlik kaybı) göz önüne alındığında, bu sızıntı, üretken yapay zekanın etik ve güvenlik sınırlarının ne kadar kritik olduğunu bir kez daha gösteriyor.
Secret Desires, reşit olmayanların görsellerini oluşturmayı yasakladığını belirtse de, bazı dosya adlarındaki ipuçları kullanıcıların platformu reşit olmayan kızların fotoğraflarını oluşturmak için kullanmaya çalıştığını gösteriyor. Platform, gelen tepkiler üzerine Nisan 2025 itibarıyla yüz değiştirme özelliğini ücretli abonelik listesinden kaldırdı.
Bu haber ilgini çekebilir.
