Meta’nın yapay zeka sohbet robotuyla yaptığınız o terapi benzeri konuşma, en derin fantezileriniz veya bir ayrılığın ardından döktüğünüz iç… Yalnızca siz ve makine arasında kaldığını düşündüğünüz bu sırların, aslında insan gözleri tarafından incelendiğini ve kimliğinizi açığa çıkaracak verilerle birlikte okunduğunu bilseydiniz ne hissederdiniz? Business Insider tarafından yapılan sarsıcı bir araştırma, tam da bu kâbus senaryosunun Meta’da yaşandığını ortaya koydu.
Haberi PodCast olarak dinlemek isterseniz;
İnsan Gözetimindeki Mahrem Sohbetler
Haberin merkezinde, teknoloji devlerinin yapay zeka modellerini eğitmek için kullandığı yaygın bir yöntem yatıyor: insan denetimi. Meta, yapay zekasının yanıtlarını iyileştirmek ve daha “insani” hale getirmek için üçüncü parti şirketler aracılığıyla (haberde Scale AI‘a ait Outlier ve Alignerr platformları zikrediliyor) müteahhitler çalıştırıyor. Business Insider’a konuşan dört müteahhit, bu süreçte kullanıcıların Meta AI ile yaptığı gerçek konuşmaları incelediklerini ve bu sohbetlerin şok edici düzeyde kişisel ve tanımlayıcı bilgiler içerdiğini doğruladı.
İncelenen konuşmalar arasında şunlar yer alıyor:
- Terapi seansları ve ruhsal çöküntü anları.
- Kullanıcıların sohbet robotuyla flört etmesi ve cinsel fantezilerini paylaşması.
- İş, aile ve ilişkiler hakkındaki en özel sorunlar ve tavsiye talepleri.
- Kullanıcıların sohbet sırasında paylaştığı özçekimler ve hatta müstehcen fotoğraflar.
Kimlikleriniz Açıkta: “5 Dakikada Facebook Profilini Buldum”
İhlalin en korkutucu boyutu ise, bu mahrem konuşmaların anonim olmaması. Müteahhitler, rutin olarak inceledikleri sohbet metinlerinin yanında veya içinde kullanıcıların tam adlarını, telefon numaralarını, e-posta adreslerini, konumlarını ve hatta Instagram kullanıcı adlarını gördüklerini belirtiyor. Bir müteahhit, incelediği binlerce sohbetin %60 ila %70’inde bu tür kişisel olarak tanımlanabilir bilgilere (PII) rastladığını tahmin ediyor.
Dahası, bazı projelerde (örneğin PQPE adlı proje) Meta’nın, yapay zekanın daha kişisel yanıtlar verebilmesi için kullanıcı hakkındaki (adı, cinsiyeti, hobileri, sosyal profil etkinliği gibi) bilgileri kasıtlı olarak sohbet metinlerinin yanına yerleştirdiği belgelerle ortaya kondu.
Bu riskin ne kadar gerçek olduğunu kanıtlayan olay ise Business Insider muhabirinin deneyimi oldu. Muhabir, bir müteahhitin gördüğü cinsel içerikli bir sohbetin yanında yer alan kullanıcı verilerini (isim, şehir, cinsiyet, hobiler) kullanarak, ilgili kişinin Facebook profilini beş dakikadan kısa bir sürede bulmayı başardı.
Meta’nın Savunması ve Uzmanların Uyarısı
Meta’dan yapılan açıklamada, kişisel verilere erişim konusunda “sıkı politikaları” olduğu, müteahhitlerin görebileceği kişisel bilgilerin kasıtlı olarak sınırlandırıldığı ve bu tür verilerle nasıl başa çıkacaklarına dair süreçlerin bulunduğu belirtildi. Ancak sahadaki müteahhitlerin ifadeleri ve gazetecilik araştırması, bu politikaların pratikte ne kadar etkisiz kaldığını gözler önüne seriyor.
Demokrasi ve Teknoloji Merkezi’nden (Center for Democracy & Technology) Miranda Bogen, konunun ciddiyetini şu sözlerle vurguluyor: “Bu verilerin yanlış ellere geçmesi durumunda riskler yüksek, çünkü bu durum manipülasyon, dolandırıcılık ve diğer kötüye kullanımlara kapı açıyor.” Bogen, kullanıcılara şu net tavsiyede bulunuyor: “Sohbet robotlarının doğası gereği gizli olduğunu asla varsaymayın.”
Bu durum, Mark Zuckerberg’in “bizi derinlemesine tanıyan” bir “kişisel süper zeka” yaratma vizyonunun karanlık bir yan etkisi olarak karşımıza çıkıyor. Daha kişisel bir yapay zeka, daha fazla kişisel veri gerektiriyor ve bu da mahremiyetin bedelini sorgulatıyor.
Öne Çıkanlar
- İnsan Denetimi: Meta, yapay zekasını eğitmek için müteahhitlere kullanıcıların en mahrem sohbetlerini okutuyor.
- Açığa Çıkan Kimlikler: Sohbetlerle birlikte tam adlar, telefon numaraları, e-postalar ve hatta fotoğraflar gibi kişisel veriler de inceleniyor.
- Kanıtlanmış Risk: Bir gazeteci, bu verileri kullanarak 5 dakikadan kısa sürede bir kullanıcının Facebook profilini tespit etti.
- Kasıtlı Veri Paylaşımı: Meta, bazı projelerde yapay zekayı kişiselleştirmek için müteahhitlere bilerek kullanıcı verileri sunuyor.
- Uzman Uyarısı: Yapay zeka sohbet robotlarıyla yapılan konuşmaların asla tamamen özel olduğu düşünülmemelidir.
