Teknolojinin kontrolsüz kullanımının ne denli tehlikeli olabileceğini gözler önüne seren şok edici bir olay Avustralya’da yaşandı. Bir cinayet davasında, savunma avukatlarının yapay zekaya olan aşırı güveni, hukuk sistemini yanıltma noktasına getirdi ve adeta bir adalet skandalına yol açtı. Bu vaka, yapay zekanın “halüsinasyon” olarak bilinen gerçeği yansıtmayan, uydurma veriler üretme probleminin ne kadar ciddi sonuçlar doğurabileceğinin en net kanıtı oldu.
Haberi PodCast olarak dinlemek isterseniz;
Domino Etkisi: Bir Hata Tüm Davayı Tehdit Etti
The Guardian‘ın haberine göre, Avustralyalı avukatlar Rishi Nathwani ve Amelia Beech, 41 yaşındaki bir kadını öldürmekle suçlanan 16 yaşındaki bir genci savunuyordu. Avukatlar, dava dosyalarını hazırlarken üretken yapay zekadan yardım aldı. Ancak yapay zeka, avukatlara sunduğu belgeleri uydurma alıntılar, yanlış aktarılmış parlamento konuşmaları ve hatta tamamen var olmayan yasalarla doldurdu.
İşin daha da endişe verici yanı, bu hatalar zincirinin bir domino etkisi yaratmasıydı. Savcılık makamı, savunmanın sunduğu referansların doğruluğunu kontrol etmeyince, onlar da bu sahte bilgilere dayanarak kendi argümanlarını oluşturmaya başladı. Dava, yapay zekanın ürettiği bir kurgu üzerine inşa ediliyordu.
Yargıç Fark Etti: “Bu Kabul Edilemez”
Bu tehlikeli gidişatı fark eden kişi Melbourne Yüksek Mahkemesi Yargıcı James Elliott oldu. Yargıç, dosyadaki tutarsızlıkları ve hataları tespit ettiğinde, avukatlar belgeleri hazırlarken üretken yapay zeka kullandıklarını itiraf etmek zorunda kaldılar.
Ancak skandal burada bitmedi. Yargıcın uyarısı üzerine dosyaları revize edip tekrar sunan avukatların yeni belgelerinde, yapay zeka kaynaklı daha fazla hata ve var olmayan yeni yasalar bulunduğu ortaya çıktı.
Bu durum karşısında Yargıç Elliott’un tepkisi sert oldu:
“Yapay zekanın, bu kullanımın ürünü bağımsız ve kapsamlı bir şekilde doğrulanmadığı sürece kullanılması kabul edilemez. Bu olayların ortaya çıkış biçimi tatmin edici değil.”
Yargıç Elliott ayrıca, yapay zeka tarafından üretilen yanlış bilgilerin hukuk sistemini “yanıltabileceğini” ve bu tür bir denetimsiz kullanımın “mahkemenin adaleti sağlama yeteneğini ciddi şekilde zayıflatacağını” vurguladı.
Öne Çıkanlar:
- Dava: Avustralya’da görülen bir cinayet davası.
- Hata: Savunma avukatları, yapay zeka kullanarak sahte alıntılar ve var olmayan yasalar içeren mahkeme belgeleri hazırladı.
- Kaynak: Olayı The Guardian gazetesi kamuoyuna duyurdu.
- Sonuç: Yargıç James Elliott, hataları fark ederek duruma müdahale etti ve yapay zekanın denetimsiz kullanımını eleştirdi. Davanın sanığı olan genç, cinayet sırasında bilişsel olarak engelli olduğu gerekçesiyle daha sonra beraat etti, ancak davanın işleyişindeki bu ciddi hata hukuk çevrelerinde büyük bir endişe yarattı.
- Risk: Bu olay, gerçek hayattaki kritik kararların, halüsinasyon gören bir yapay zekanın ürettiği kurgusal bilgilere dayanarak alınabileceği tehlikesini bir kez daha ortaya koydu.
Bu vaka, özellikle hukuk gibi insan hayatını doğrudan etkileyen alanlarda, yapay zeka araçlarının insan denetimi ve doğrulaması olmadan kullanılmasının ne kadar riskli olduğunu acı bir şekilde gösteriyor.
