Haberi Podcast olarak dinlemek isterseniz
Yapay Zekayı “Kör Eden” Tasarım: Simon Weckert’ten “Dijital Kamuflaj” Gömleği
Berlin merkezli tasarımcı Simon Weckert, yapay zeka destekli güvenlik kameralarından saklanmayı sağlayan oldukça renkli ve ilginç desenlere sahip bir gömlek tasarladı. “Dijital Kamuflaj” (Digital Camouflage) adı verilen bu giysi, gelişmiş yapay zeka gözetim sistemlerinin insanları algılama biçimini manipüle ederek kullanan kişiyi sistemde adeta “görünmez” kılıyor.
Bu yenilikçi tasarımın ortaya çıkış noktası, Berlin polisinin Ağustos ayında Kottbusser Tor meydanında başlattığı yapay zeka destekli video gözetim pilot projesi oldu. Weckert, yüz tanıma ve nesne algılama sistemlerinin insanları sürekli izlemesine bir tepki olarak bu projeyi hayata geçirdi.
İnsana Havai Gömleği, Yapay Zekaya “Hiçbir Şey”
Peki, gömlek devasa teknolojik sistemleri nasıl alt ediyor? Weckert, yapay zeka sistemlerinin aslında bir insanın ne olduğunu bilmediğini, yalnızca milyonlarca eğitim görselinden bir insanın istatistiksel olarak neye benzediğini (kenarlar, kontrastlar, omuz ve baş silueti vb.) öğrendiğini belirtiyor.
Tasarımcı durumu şöyle özetliyor: “Yapay zeka için ‘insan’, bir dizi görsel istatistikten ibarettir ve zayıf noktası da tam olarak budur.”
Gömlek üzerindeki yoğun ve parlak renk geçişleri ile üst üste binen geometrik desenler, insan vücudunun o alışılagelmiş bütünlüğünü (siluetini) parçalıyor. Bu sayede yapay zekanın “nesne algılama” sensörleri, parçaları birleştirip orada bir insan olduğunu teşhis edemiyor. İnsan gözüyle bakıldığında hipnotik ve dikkat çekici bir tekstil ürünü gibi duran bu tasarım, kameranın yapay zeka algoritması için sadece anlamsız bir görüntü, yani “hiçbir şey” ifade ediyor.
Yapay Zekayı Kendi Silahıyla Vurmak: “Çekişmeli Döngü”
Bu karmaşık deseni oluşturmak insan gözüyle mümkün değildi. Weckert, deseni tasarlarken yine yapay zekadan faydalandı ve makinenin kör noktalarını bulabilmek için açık kaynaklı YOLO (gerçek zamanlı yapay zeka nesne algılama sistemi) algoritmasını kullandı.
Tasarım süreci, “adversarial loop” (çekişmeli döngü) adı verilen bir deneme-yanılma yöntemiyle ilerledi. Weckert algoritmaya bir desen gösterdi, sistemin kişiyi ne kadar güvenle tespit edebildiğini ölçtü, deseni değiştirdi ve yapay zekanın “burada bir insan var” deme güveni tamamen çökene kadar bu döngüyü tekrarladı. Weckert bu durumu şu sözlerle ifade ediyor: “Meydanı izleyen aynı yapay zeka sınıfının, gömleğe nasıl saklanacağını da öğretmesinde şiirsel bir simetri var.”
Teknolojiye Karşı İlk Eylemi Değil
Dijital Kamuflaj gömleği, Simon Weckert’in teknolojinin açıklarını sanatsal bir şekilde kullandığı ilk proje değil. Tasarımcı, 2020 yılında küçük bir el arabasına 99 adet akıllı telefon doldurup Berlin sokaklarında dolaşarak Google Haritalar’da “hayalet trafik sıkışıklıkları” yaratmış ve tüm dünyanın dikkatini çekmişti.
Görünen o ki, yapay zeka ve gözetim teknolojileri hayatımızın her alanına yayılırken, “Dijital Kamuflaj” gibi teknolojiyle alay eden ve kişisel gizliliği savunan tasarımları gelecekte çok daha sık göreceğiz.
