YouTube Kadınların Öldürüldüğü Yapay Zeka Videolarını Barındıran Kanalı Kapattı
YouTube, yapay zeka tarafından oluşturulmuş ve kadınların öldürüldüğü sahneleri içeren videolar yayınlayan “Woman Shot AI” adlı bir kanalı kaldırdı. 404 Media‘nın araştırmasıyla ortaya çıkan skandal, yapay zekanın etik dışı ve rahatsız edici içerik üretiminde nasıl kullanılabileceğini bir kez daha gözler önüne serdi. Kanalın, kapatılana kadar 175.000’den fazla izlenme sayısına ulaştığı belirtildi.
Haberi PodCast olarak dinlemek isterseniz;
Rahatsız Edici İçeriğin Detayları
Kanal, 20 Haziran 2025’te yayına başladığından bu yana toplam 27 video yüklemiş ve yaklaşık 1.200 abone toplamıştı. Bu videoların tamamı, foto-gerçekçi bir tasarımla ön planda bir adam tarafından silah zoruyla tutulan ve hayatları için yalvaran kadınları tasvir ediyordu. İçerikler arasında popüler video oyunu karakterlerinden (Lara Croft, Mai Shiranui) ilham alan videoların yanı sıra, “Ele Geçirilen Kızlar” ve “Japon Kız Öğrenciler” gibi başlıklar da yer alıyordu. Hatta bir videoda, Rus askerlerinin Ukraynalı kadınları vurduğu sahneler tasvir ediliyordu.
404 Media’nın araştırmasına göre, kanalın sahibi abonelerine “bir sonraki videodaki kurbanlar” için anketler düzenliyordu. Bu durum, içeriğin doğrudan bir talep üzerine üretildiğini gösteriyor.
Yapay Zeka ve Etik Sınırlar
Bu olay, yapay zekanın kötü niyetli kullanımının ne kadar ileri gidebileceğine dair ciddi bir uyarı niteliği taşıyor. Kanalın videoları, diyaloglar dahil olmak üzere, Google’ın metinden videoya yapay zeka aracı Veo 3 ile oluşturulmuştu. Ancak, kullanıcının bu aracı kötüye kullanması, Veo’nun içeriği engellemesi gereken güvenlik önlemlerinin kolayca aşılabildiğini gösterdi.
Google sözcüsü, yapay zeka araçlarının kullanıcı komutlarını takip etmek üzere tasarlandığını ve politikalarını yansıtma konusunda sürekli olarak geliştiğini belirtti. Ancak bu vaka, basit yazım hataları gibi küçük hilelerle bile yapay zeka sistemlerinin etik bariyerlerinin aşılabildiğini ortaya koyuyor. Bu durum, sosyal medya platformlarının ve yapay zeka geliştiricilerinin, bu tür zararlı içeriklerle mücadele için daha güçlü ve proaktif önlemler alması gerektiğini vurguluyor.
Bu haber ilgini çekebilir.
