Tıbbi Kayıtlarınızdaki Tek Bir Hata Yapay Zekayı Çıldırtabilir
Boston, ABD – Tek bir yazım hatası, eksik bir boşluk veya argo bir kelime… Tıbbi kayıtlarınızdaki bu küçük kusurlar, hayat kurtarması beklenen yapay zeka doktorunuzun tehlikeli kararlar almasına neden olabilir. MIT‘den araştırmacılar, yapay zekanın tıbbi teşhis ve tavsiye yeteneğinin ne kadar kırılgan olduğunu gözler önüne seren çarpıcı bir çalışmaya imza attı.
Araştırmacılar, gerçek tıbbi kayıtlar ve Reddit’ten alınan sağlık şikayetleri üzerinde yaptıkları deneylerde, OpenAI’nin GPT-4 de dahil olmak üzere dört farklı yapay zeka modelinin ne kadar kolay yanıltılabildiğini gösterdi. Çalışmanın detayları, halen hakem incelemesinde olan bir makalede yer alıyor.
Haberi PodCast olarak dinlemek isterseniz;
Yapay Zekanın Zafiyetleri ve Tehlikeli Sonuçları
MIT Elektrik Mühendisliği ve Bilgisayar Bilimleri Profesörü Marzyeh Ghassemi‘nin liderliğindeki ekip, yapay zekanın “insan” diline karşı ne kadar savunmasız olduğunu kanıtladı. Çalışmanın öne çıkan bulguları şöyle:
- Dil ve Biçim Önemli: Standart dışı dilbilgisi kuralları, yazım hataları, fazladan boşluklar veya sadece küçük harflerle yazılmış metinler, yapay zekanın hasta şikayetlerini yanlış yorumlamasına yol açıyor. Yapılan araştırmaya göre, bu tür “kusurlu” metinler kullanıldığında, yapay zeka araçlarının hastalara tıbbi yardım almamalarını önerme olasılığı %7 ila %9 daha fazla.
- Duygusal Dil Ayrımcılığı: Ghassemi’nin ifadesiyle, “Öleceğimi sandım” gibi duygusal veya renkli ifadeler içeren metinler de yapay zekanın tavsiyelerini geçersiz kılıyor. Bu durum, İngilizceyi ana dili gibi konuşamayan veya sağlık sorunlarını duygusal bir dille ifade eden hastalara karşı bir ayrımcılık riski taşıyor.
- Kadınlara Yönelik Önyargı: Yapay zekanın en rahatsız edici bulgularından biri, kadın hastalara karşı orantısız bir şekilde yanlış tavsiyelerde bulunması oldu. Ghassemi, modellerin şikayette cinsiyet belirten hiçbir ifade olmasa bile hastanın kadın olduğunu doğru bir şekilde tespit edebildiğini ve bakım önerilerini bu yönde azalttığını belirtiyor. Bu durum, tıp dünyasının kadın hastaları “histerik” olarak damgaladığı tarihsel önyargıların yapay zeka tarafından da tekrarlandığına işaret ediyor.
Robotlar Doktorların Becerilerini Köreltiyor mu?
Bu bulgular, yapay zekanın tıbbi alandaki potansiyel tehlikelerine dair tek örnek değil. Lancet Gastroenterology and Hepatology dergisinde yayınlanan başka bir çalışma, yapay zeka araçlarına bağımlı hale gelen doktorların, bu araçlar ellerinden alındığında kanser öncesi büyümeleri tespit etme yeteneklerinin azaldığını gösteriyor. Bu duruma “vasıfsızlaştırma” deniyor.
University College Hospital London’dan gastroenterolog Ömer Ahmed, New York Times’a verdiği röportajda, “Becerilerimi kaybedersem, hataları nasıl tespit edeceğim?” diyerek endişelerini dile getiriyor. Bu, yapay zekanın doktorların en temel insan becerilerinden birini, yani hastalarıyla empati kurma ve bağlantı kurma yeteneğini köreltme potansiyeli taşıdığını gösteriyor.
Düzenleme Çağrısı: Eşitlik Zorunlu Bir Standart Olmalı
Marzyeh Ghassemi ve ekibinin araştırmaları, teknolojinin ilerlemesinin önünü kesemiyorsak, daha sıkı standartlar talep etmemiz gerektiğini gösteriyor. Ghassemi, yapay zekaların ırkı tespit edebildiğini ve Asyalı veya Siyah kullanıcılara daha az empatiyle yanıt verdiğini gösteren önceki araştırmalarına da atıfta bulunarak, “Klinik yapay zeka için eşitliği zorunlu bir performans standardı haline getirecek düzenlemelere ihtiyacımız var” diyor.
Uzmanlar, yapay zeka modellerinin daha çeşitli ve temsili veri kümeleri üzerinde eğitilmesi gerektiğini vurguluyor. Aksi takdirde, yapay zeka teknolojisi, insan önyargılarını ve hatalarını otomatikleştiren bir araca dönüşme riski taşıyor.
Bu haber ilgini çekebilir.
