Skandal Rapor: Deloitte, Yapay Zeka Hataları Yüzünden Hükümete Milyonlarca Dolar Geri Ödedi
Finans ve danışmanlık devi Deloitte, hazırladığı bir raporda yapay zeka tarafından üretilen “halüsinasyon” niteliğindeki hatalar nedeniyle Avustralya hükümetine 291.000 ABD doları geri ödeme yapmak zorunda kaldı. Bu olay, profesyonel hizmetlerde yapay zeka kullanımının risklerini ve etik sorunlarını bir kez daha gündeme taşıdı.
The Guardian’ın haberine göre, Avustralya Çalışma ve İşyeri İlişkileri Bakanlığı (DEWR), Deloitte’u iş arayanların sosyal yardım sistemindeki cezai yaptırımları incelemekle görevlendirmişti. Ancak şirket tarafından sunulan raporda, var olmayan kaynaklara yapılan atıflar gibi ciddi hatalar tespit edildi.
Haberi PodCast olarak dinlemek isterseniz;
Halüsinasyonlu Referanslar ve Gizleme Girişimi
Raporun hatalı olduğunu ilk fark eden Sydney Üniversitesi’nden sosyoloji öğretim görevlisi Christopher Rudge oldu. Rudge’a göre, Deloitte hataları fark edince raporun güncellenmiş bir versiyonunu yayınlayarak izlerini örtmeye çalıştı. Ancak sahte referansları gerçekleriyle değiştirmek yerine, bir referansı beş, altı, hatta yedi farklı referansla değiştirdiler. Bu durum, rapordaki orijinal iddiaların hiçbir kanıta dayanmadığını açıkça gösterdi.
Deloitte’un revize edilmiş rapordaki bir dipnotta, çalışanların raporu hazırlamak için OpenAI’ın GPT-4o modelini kullandıkları belirtildi. Şirket sözcüsü, hatalı dipnot ve referansların olduğunu doğrulasa da, raporun özünün ve önerilerinin değişmediğini savundu.
“İnsan Zekası Sorunu” ve Sektörel Tepkiler
Bu skandal, danışmanlık sektöründe yapay zeka kullanımına dair endişeleri artırdı. Avustralyalı senatör Deborah O’Neill, olayı “Deloitte’un bir insan zekası sorunu var” diyerek eleştirdi. O’Neill, danışmanlık firmalarının sözleşmeleri uzmanlık vaadiyle aldığını ancak en düşük maliyetli personeli veya yapay zekayı kullanarak kaliteden ödün verdiğini belirtti. Senatör, bu tür firmalarla çalışan herkesin, işi tam olarak kimin yaptığını ve yapay zeka kullanımının doğrulanıp doğrulanmadığını sorması gerektiğini vurguladı.
Benzer şekilde, İngiltere’deki en büyük altı muhasebe firmasının yapay zekanın denetim kalitesine etkisini resmi olarak izlemediği ortaya çıktı. Bu durum, Deloitte raporundakine benzer halüsinasyonların sektördeki diğer raporlarda da bulunabileceği endişesini doğurdu.
Bu olay, yapay zekanın sunduğu potansiyel verimliliğe rağmen, insan gözetimi ve doğrulaması olmadan kullanılmasının ne kadar riskli olabileceğini gözler önüne seriyor. Özellikle finans ve hukuk gibi hassas alanlarda, yapay zeka hatalarının ciddi mali ve etik sonuçlar doğurabileceği bir kez daha kanıtlanmış oldu.
Bu haber ilgini çekebilir.
