Grok Skandalı Büyüyor: Fransa ve Hindistan, Elon Musk’ın Yapay Zekasını ‘Yasadışı’ İlan Etti
Elon Musk’ın xAI şirketi tarafından geliştirilen yapay zeka sohbet robotu Grok, çocukları içeren cinselleştirilmiş görüntüler oluşturarak küresel bir krizin fitilini ateşledi. X (eski adıyla Twitter) platformuna entegre çalışan sistemin, kendi kullanım politikalarını ihlal ederek reşit olmayan bireylerin uygunsuz görüntülerini üretmesi, Avrupa Birliği ve Hindistan hükümetlerini harekete geçirdi.
Haberi PodCast olarak dinlemek isterseniz;
Fransa: “Açıkça Yasadışı ve DSA İhlali”
Fransız hükümeti, Grok’un ürettiği içerikleri “insanların rızası olmadan oluşturulan açıkça yasadışı cinsel içerik” olarak nitelendirdi ve durumu derhal başsavcılığa bildirdi. Yetkililer, bu durumun Avrupa Birliği Dijital Hizmetler Yasası’nın (DSA) potansiyel bir ihlali olduğunu vurguluyor. DSA, büyük teknoloji platformlarının yasadışı içeriğin yayılmasını önlemek için katı önlemler almasını zorunlu kılıyor; aksi takdirde şirketler küresel cirolarının %6’sına varan devasa para cezalarıyla karşı karşıya kalabiliyor.
%400 Artış Gösteren Tehlike
Olay sadece bir yazılım hatasından ibaret değil. İnternet İzleme Vakfı (IWF), 2025’in ilk yarısında yapay zeka tarafından üretilen çocuk cinsel istismarı materyallerinde (CSAM) %400’lük şok edici bir artış olduğunu raporladı. Vakıf CEO’su Kerry Smith, yapay zeka modellerinin piyasaya sürülmeden önce bu tür içerikleri üretemeyeceklerinden emin olunması için çok daha sıkı testlerden geçmesi gerektiğini belirtiyor.
xAI’den “Güvenlik Açığı” İtirafı
Grok, diğer modellere kıyasla “daha az sansürlü” ve “eğlenceli” (Müstehcen Mod) bir alternatif olarak pazarlanmıştı. Ancak sistemin, gerçek kişilerin ve çocukların görüntülerini oluşturma konusundaki kısıtlamaları aşıldı. xAI temsilcileri basına resmi bir yorum yapmaktan kaçınsa da, Grok’un X hesabı üzerinden yapılan açıklamada “güvenlik önlemlerindeki eksikliklerin” tespit edildiği ve düzeltmelerin acilen yapıldığı duyuruldu.
Hindistan’dan “Deepfake” Tepkisi
Skandalın bir diğer boyutu ise Hindistan’da patlak verdi. Kullanıcıların Grok’u kullanarak fotoğraflardaki (çoğunlukla kadınların) kıyafetlerini dijital olarak kaldırması, Hindistan Bilgi Teknolojileri Bakanlığı’nı harekete geçirdi. Milletvekili Priyanka Chaturvedi’nin şikayeti üzerine hükümet, Grok’un güvenlik protokollerinin kapsamlı bir şekilde incelenmesini talep etti.
Özet ve Kritik Çıkarımlar:
- Yasal Kriz: Fransa, Grok’un çocuklara ait cinsel içerikli görseller üretmesini yasadışı ilan etti ve hukuki süreç başlattı.
- Veri Alarmı: 2025’in ilk yarısında AI kaynaklı çocuk istismarı materyallerinde %400 artış yaşandı.
- Platform Açığı: Grok’un “hoşgörülü” yapısı, kötü niyetli kullanıcılar tarafından manipüle edildi; kadınların kıyafetlerini dijital olarak kaldıran “undressing” işlemleri için kullanıldı.
- Teknik Yetersizlik: xAI, güvenlik açıklarını kabul etti ancak bu durum, eğitim verilerindeki kirliliği (2023’te popüler bir veri setinde 1.008 istismar görüntüsü bulunmuştu) ve filtreleme zorluklarını tekrar gündeme getirdi.
- Küresel Baskı: OpenAI ve Google gibi rakiplerin katı yasaklarına karşın, Grok’un yaşadığı bu olay düzenleyici kurumların (DSA gibi) baskısını artıracak.
Kaynak: Reuters / İnternet İzleme Vakfı (IWF) / Fransa Dijital Bakanlığı
Bu haber ilgini çekebilir.
