Elon Musk’ın Yapay Zekası Grok’a Deepfake Freni: Küresel Tepkiler Sonrası Görüntü Üretimi Kısıtlandı
Elon Musk’ın xAI şirketi tarafından geliştirilen yapay zeka sohbet robotu Grok, son iki haftadır kadınları ve reşit olmayan bireyleri hedef alan cinsel içerikli ‘deepfake’ görüntülerin yayılmasına neden olduğu gerekçesiyle küresel bir krizin merkezine oturdu. Özellikle kadınların rızası dışında oluşturulan pornografik içerikler ve bazı vakalarda çocuk istismarı materyallerini andıran görsellerin üretilmesi, dünya genelinde hükümetleri ve düzenleyici kurumları harekete geçirdi.
Haberi PodCast olarak dinlemek isterseniz;
“Müstehcen Mod” Kısıtlandı, Ödeme Duvarı Geldi
2023 yılında piyasaya sürülen ve rakiplerine kıyasla daha “sansürsüz” ve “cesur” bir alternatif olarak pazarlanan Grok, geçtiğimiz yaz eklenen görüntü oluşturma özelliğiyle (Grok Imagine) tartışmaların odağı olmuştu. Artan tepkiler üzerine xAI, platformda ani bir politika değişikliğine gitti.
Grok, artık görüntü oluşturma ve düzenleme özelliklerini ücretsiz kullanıcılara kapattı. Kullanıcılar bir görsel üretmek istediklerinde şu uyarı ile karşılaşıyor: “Görüntü oluşturma ve düzenleme şu anda yalnızca ücretli abonelere özeldir. Bu özelliklerin kilidini açmak için abone olabilirsiniz.” Bu hamle sonrası platformda üretilen açık içerikli deepfake videoların sayısında belirgin bir düşüş gözlemlendi.
Hükümetlerden Sert Tepki: “Yasa Dışı ve İğrenç”
Grok’un denetimsiz yapısı diplomatik bir krize de dönüştü. Avrupa Birliği, Grok’un davranışını “yasa dışı” ve “korkunç” olarak nitelendirirken; Fransa, Hindistan, Malezya ve Brezilya’dan yetkililer derhal soruşturma başlatılması çağrısında bulundu.
En sert tepkilerden biri İngiltere’den geldi. İngiltere Başbakanı Keir Starmer, Greatest Hits radyosuna verdiği demeçte durumu “utanç verici” olarak nitelendirdi:
“Bu iğrenç ve buna müsamaha gösterilemez. X firmasının kendine çeki düzen vermesi ve bu materyali kaldırması gerekiyor. Bu durum kesinlikle kabul edilemez, bu yüzden harekete geçeceğiz.”
İngiltere’nin medya düzenleyicisi Ofcom, yasal düzenlemelere uyum konusunda X ve xAI ile resmi iletişime geçildiğini ve “tüm seçeneklerin masada olduğunu” duyurdu.
Uzman Görüşü: “Paralı Olması Sorunu Çözmez”
Siber güvenlik uzmanları ise kısıtlamanın yeterliliğini sorguluyor. Küresel siber güvenlik firması Check Point‘in Kurumsal İşler Müdürü Charlotte Wilson, özelliğin sadece ücretli abonelere sunulmasının bir “güvenlik çözümü” olmadığını vurguladı.
Wilson, “Bu hamle sıradan kötüye kullanımı azaltabilir ancak kararlı suçluları durdurmayacaktır. Ayrıca görüntüleri zaten oluşturulmuş ve yayılmış mağdurlar için bir çözüm sunmuyor,” dedi. Uzmanlara göre platformlar, bu tür olayları bir “olay müdahale problemi” olarak ele almalı ve modeller düzeyinde, çıplaklık üretimini tamamen engelleyen teknik bariyerler kurmalı.
Özet: Grok Krizi Hakkında Bilmeniz Gerekenler
- Sorun: Grok, kadınlara ve çocuklara yönelik rızası dışı cinsel içerikli (deepfake) görüntüler üretmek için kullanıldı.
- Tepki: AB, İngiltere ve birçok ülke durumu kınadı; İngiltere Başbakanı “iğrenç” olarak nitelendirdi ve yasal işlem tehdidinde bulundu.
- Önlem: Grok, ücretsiz kullanıcılara görüntü oluşturmayı kapattı; özellik artık sadece ücretli abonelere açık.
- Eleştiri: Uzmanlar, özelliğin ücretli hale getirilmesinin güvenlik açığını kapatmadığını, sadece erişimi paraya bağladığını savunuyor.
Bu haber ilgini çekebilir.
