Yapay zekâ araçlarının yaygınlaşması, bilgiye erişimi kolaylaştırsa da beraberinde ciddi riskleri de getiriyor. Son olarak Annals of Internal Medicine Clinical Cases dergisinde yayımlanan bir vaka raporu, yapay zekâdan alınan diyet tavsiyesinin ne kadar tehlikeli olabileceğini gözler önüne serdi. 60 yaşındaki bir adam, diyetinde sofra tuzu yerine ChatGPT‘nin önerdiği sodyum bromürü kullanmasının ardından, paranoya ve halüsinasyon gibi ciddi psikiyatrik semptomlarla hastaneye kaldırıldı.
Haberi PodCast olarak dinlemek isterseniz;
Bromizm: Unutulan Bir Zehirlenme Sendromu
Vaka raporuna göre, hasta üç ay boyunca sofra tuzu (sodyum klorür) yerine internetten satın aldığı sodyum bromürü düzenli olarak tüketti. Bu durum, 1970 ve 80’lerde yaygın olarak kullanılan bromür bazlı ilaçların yasaklanmasıyla neredeyse unutulan bir sendrom olan “bromizm” ile sonuçlandı.
- Nöropsikiyatrik Semptomlar: Bromizmin neden olduğu toksin birikimi, paranoya, ajitasyon, mani ve sanrılar gibi nöropsikiyatrik semptomların yanı sıra hafıza ve kas koordinasyonu sorunlarına yol açabilir.
- Laboratuvar Yanılgısı: Hastaneye başvuran adamın kan tahlillerinde klorür seviyeleri yüksek göründü. Ancak bu durum, kanda biriken yüksek miktarda bromürün test sonuçlarını yanlış okutmasından kaynaklanan bir “psödohiperkloremi” vakasıydı.
- Kurtuluş Süreci: Hastanın sıvı ve elektrolit takviyesi almasının ardından fiziksel durumu düzeldi ve psikiyatrik ilaçlarla halüsinasyonları kontrol altına alındı. Doktorlar, hastanın ChatGPT kullanımı hakkında bilgi vermesinin ardından doğru teşhisi koyabildi.
Yapay Zekâ ve Tıbbi Tavsiyeler: Tehlikeli Bir Birleşim
Bu vaka, yapay zekâ modellerinin tıbbi tavsiye vermesinin barındırdığı büyük tehlikeleri bir kez daha gösteriyor.
- Yanlış Bilgi Üretme (Halüsinasyon): Hastanın doktorları, durumu simüle etmek amacıyla ChatGPT 3.5’e aynı soruyu sorduğunda, model klorürün yerine bromürün kullanılabileceğini içeren bir yanıt verdi. OpenAI, hizmet şartlarında yapay zekâlarının sağlık sorunları için kullanılmaması gerektiğini belirtse de, modelin yanlış bilgi üretme (halüsinasyon) eğilimi bu riskin ne kadar büyük olduğunu ortaya koyuyor.
- Bağlam Eksikliği: Yapay zekâ, insan uzmanların aksine, bir sorunun arkasındaki bağlamı sorgulama yeteneğinden yoksundur. Doktorlar, hastalarının sağlık bilgilerini nereden aldıklarını sorgulamaları gerektiği konusunda uyarılıyor.
Farklı bir araştırma grubu tarafından yapılan bir çalışmada, ChatGPT de dahil olmak üzere altı büyük dil modelinin (LLM), düşmanca “halüsinasyon saldırılarına karşı oldukça hassas” olduğu, yani yanlış klinik bilgiler ürettiği tespit edildi. Bu bulgular, yapay zekâ araçlarının tıbbi karar alma süreçlerine entegrasyonunun büyük riskler taşıdığını gösteriyor.
