Sora ve Dezenformasyonun Yeni Çağı
Yapay zeka dünyası, OpenAI‘nin yeni video oluşturma aracı Sora ile yepyeni ve bir o kadar da tehlikeli bir boyuta ulaştı. New York Times’ın bir makalesinde aktarılan bilgilere göre, kullanıcıların sadece birkaç kelimelik metin komutuyla ürettikleri videolar, mağaza soygunlarından ev baskınlarına, hatta şehir meydanlarında patlayan bombalara kadar akıl almaz sahneler içeriyor. En şok edici yanı ise, tüm bu videoların hiçbiri gerçek değil.
Haberi PodCast olarak dinlemek isterseniz;
Sora Neler Yapabiliyor?
Sora, kullanıcıların hayal gücünü gerçeğe dönüştürmek için tasarlanmış. Metin girdilerini kullanarak inanılmaz derecede gerçekçi videolar üretebiliyor. Uygulamanın yetenekleri ise korkutucu boyutlarda:
- Hayali Olaylar: Oy pusulası sahtekarlığı, göçmen tutuklamaları, protestolar ve suç videoları gibi gerçekte yaşanmamış olayları, gerçeğinden farksız bir şekilde canlandırabiliyor.
- Karakter ve Nesne Entegrasyonu: Kullanıcılar, kendi fotoğraflarını yükleyerek benzerliklerini videolara ekleyebiliyor. Hatta, ölmüş ünlülerin, şirket logolarının ve kurgusal karakterlerin bile sahte videolarda yer almasını sağlayabiliyor.
- Siyasi İçerik Potansiyeli: Uygulama, doğrudan dünya liderleriyle ilgili video oluşturmayı reddetse de, dolaylı yoldan siyasi içerikler üretmek mümkün. Örneğin, eski Başkan Barack Obama’nın sesini kullanarak sahte bir miting videosu hazırlamış.
Uzmanlar Ne Diyor?
Uzmanlar, Sora ve benzeri araçların dezenformasyon ve manipülasyon için verimli bir zemin hazırladığından endişe duyuyor. Kaliforniya Üniversitesi, Berkeley’den bilgisayar bilimleri profesörü Hany Farid, bu durumun demokrasi, ekonomi ve kurumlar için büyük bir tehdit oluşturduğunu belirtiyor. Gerçek ile sahtenin ayırt edilemez hale gelmesi, insanların gördükleri her şeye olan güvenini sarsıyor.
Sora‘nın videolarında, yapay zeka tarafından üretildiğini belirten bir filigran bulunsa da, uzmanlar bu tür işaretlerin kolayca kaldırılabileceği konusunda uyarıyor. Yüksek kaliteli sahte videolar, komplo teorilerini desteklemek, masum insanları suçlamak ve gerginlikleri tırmandırmak için kullanılabilecek potansiyel içerikler sunuyor.
OpenAI’nin Güvenlik Önlemleri Yeterli mi?
OpenAI, uygulamayı piyasaya sürmeden önce kapsamlı güvenlik testlerinden geçirdiklerini belirtiyor. Şirket, kullanım politikalarının taklit, dolandırıcılık ve aldatmayı yasakladığını ifade ediyor. Nitekim, The New York Times’ın testlerinde bazı ünlülerin görüntülerini ve şiddet içeren içerikleri oluşturmayı reddetti. Ancak bu önlemlerin kusursuz olmadığı da ortaya çıktı.
- Uygulama, kimlik doğrulaması gerektirmediği için sahte kimliklerle hesap oluşturulmasına izin veriyor.
- Geçmişte yaşamış, kamuya mal olmuş kişilerle ilgili içeriklerin üretilmesine engel olmuyor. (Örneğin, Dr. Martin Luther King Jr. veya Michael Jackson)
- Şiddet içeren içerikleri reddetse de, market soygunu veya ev baskını gibi potansiyel olarak suç teşkil eden sahneleri üretebiliyor. Hatta, OpenAI CEO’su Sam Altman‘ın bir marketten hırsızlık yaptığını gösteren bir video bile oluşturulmuş.
CivAI‘nin kurucularından Lucas Hansen, “Artık bir şeyin gerçekleştiğini kanıtlamak için kullanılabilecek neredeyse hiçbir dijital içerik kalmadı” diyerek durumu özetliyor. Bu yeni dönem, gerçekliğin artık yalnızca “inandığımız” şeylerden ibaret olabileceği korkutucu bir geleceği işaret ediyor.
Bu haber ilgini çekebilir.
