OpenAI’dan Tartışmalı Hamle: ‘ChatGPT Health’ Tıbbi Kayıtlarınızı İstiyor Ancak Teşhis Koymayı Reddediyor
Yapay zeka devriminin öncüsü OpenAI, teknoloji dünyasını ikiye bölen yeni bir özellikle sahneye çıktı: ChatGPT Health. Şirket, kullanıcıların tüm tıbbi kayıtlarını işleyebilen bu yeni sistemi duyururken, aynı zamanda sistemin “teşhis veya tedavi” amacıyla kesinlikle kullanılmaması gerektiği konusunda şaşırtıcı bir uyarıda bulundu.
Haberi PodCast olarak dinlemek isterseniz;
“Doktorların Yerini Almak İçin Değil, Desteklemek İçin”
OpenAI’ın resmi açıklamasına göre ChatGPT Health, “doktorlarla yakın işbirliği içinde” tasarlandı. Sistemin amacı, kullanıcıların sağlık süreçlerinde daha aktif rol almalarını sağlamak ve klinik bakımı desteklemek. Şirket, web sitesinde bu durumu şöyle özetliyor: “ChatGPT Health, insanların sağlık ve esenliklerini anlama ve yönetme konusunda yardımcı olurken, kliniklerden alınan bakımı destekler, onun yerini almaz.”
Ancak uzmanlar, bu “mantıksız” görünen ikilem konusunda endişeli. Sistem, kişiselleştirilmiş sağlık yanıtları üretmek için en hassas verilerinizi talep ediyor; fakat bu verilerle üretilen çıktıların tıbbi bir tavsiye niteliği taşımadığını küçük puntolarla belirtiyor.
Halüsinasyon Riski ve “Amatör Doktorlar” Çağı
Yapay zeka sohbet botlarının sağlık alanındaki sicili henüz güven vermekten uzak. The Guardian tarafından yapılan yeni bir araştırma, Google’ın Yapay Zeka Özetlerinin (AI Overviews) ciddi sağlık risklerine yol açabilecek yanlış bilgiler ürettiğini ortaya koydu. Uzmanlar, benzer bir riskin ChatGPT Health için de geçerli olabileceğini vurguluyor.
Business Insider‘ın raporuna göre, ChatGPT şimdiden hukuk ve tıp dünyasında kaosa neden oluyor. Miami merkezli tıbbi ihmal davaları avukatı Jonathan Freidin, insanların yapay zeka tavsiyelerine dayanarak kendilerini “amatör doktor veya avukat” ilan ettiklerini belirtiyor. Freidin, “ChatGPT veya Gemini’nin doktorların hata yaptığını söylemesi üzerine dava açmak isteyenlerin sayısında artış görüyoruz. Ancak bu, geçerli bir dava olduğu anlamına gelmiyor,” diyerek hukuki karmaşaya dikkat çekiyor.
Veri Gizliliği ve HIPAA Çıkmazı
En büyük endişe kaynağı ise veri güvenliği. ABD’deki federal sağlık yasası HIPAA, tüketici odaklı yapay zeka ürünlerini kapsamıyor. Bu da, kullanıcıların en mahrem sağlık verilerini (röntgenler, tahlil sonuçları, genetik bilgiler) yasal koruma kalkanı olmayan bir platforma yüklemeleri anlamına geliyor.
Benzer bir durum geçen yıl Elon Musk‘ın, kullanıcıları tıbbi verilerini Grok’a yüklemeye teşvik etmesiyle yaşanmış ve bu durum yanıltıcı teşhislerle sonuçlanan bir kafa karışıklığı yaratmıştı.
Demokrasi ve Teknoloji Merkezi Kıdemli Danışmanı Andrew Crawford, BBC’ye verdiği demeçte tehlikenin boyutunu şöyle özetliyor:
“Özellikle OpenAI’nin reklamcılığı bir iş modeli olarak keşfetmeye yöneldiği şu dönemde, ChatGPT’nin diğer konuşmalardan yakaladığı sağlık verileri ile anılar arasında kusursuz bir ayrım olması hayati önem taşıyor.”
Kolluk Kuvvetleri ve Etik Sorular
Verilerin sadece reklam amaçlı değil, adli vakalarda da kullanılabileceği endişesi hakim. Elektronik Gizlilik Bilgi Merkezi (EPIC) Kıdemli Avukatı Sara Geoghegan, The Record‘a yaptığı açıklamada, “ChatGPT yalnızca kendi vaatleriyle bağlıdır. Herhangi bir yasal düzenleme olmadan hizmet şartlarını istedikleri an değiştirebilirler,” uyarısında bulunuyor.
Üreme sağlığı gibi son derece hassas verilerin, kullanıcı rızası olmadan polis teşkilatlarıyla paylaşılıp paylaşılmayacağı sorusu ise henüz net bir yanıt bulmuş değil. Teknoloji dünyası, OpenAI’ın bu hassas dengeyi nasıl kuracağını ve kullanıcı verilerini “gerçek bir tehlikeye” atıp atmayacağını yakından izliyor.
Bu haber ilgini çekebilir.
