Skandal: Reddit Yapay Zekası Kronik Ağrıya Çözüm Olarak Eroin Kullanımını Önerdi!
Teknoloji devlerinin aceleci yapay zeka entegrasyonu, etik bir krize yol açtı. Reddit’in yeni “Yapay Zeka Cevapları” özelliği, opioid krizinin gölgesinde kalan kronik ağrı hastalarına, ‘hayat kurtarıcı’ olarak nitelendirdiği eroin kullanımını tavsiye etti.
SAN FRANCISCO – Yapay zekanın (YZ) günlük yaşamın her alanına hızla sızdığı bu dönemde, etik denetim eksikliği kamuoyunda utanç verici ve tehlikeli sonuçlar doğurmaya devam ediyor. Bu endişelerin son örneği, popüler sosyal platform Reddit’in yeni YZ sisteminde yaşandı.
19 Ekim 2025’te yayımlanan habere göre, Reddit‘in yeni tanıtılan “Reddit Cevapları” yapay zekası, kronik ağrı yönetimi arayışındaki bir kullanıcıya son derece tehlikeli ve uygunsuz önerilerde bulunurken yakalandı.
Haberi PodCast olarak dinlemek isterseniz;
YZ’nin Tehlikeli Önerileri Maddeler Halinde:
- Başlangıçta Kratom Önerisi: YZ, “opioidler olmadan ağrı yönetimi yaklaşımları” arayan kullanıcılara ilk olarak, bağımlılık ve sağlık riskleriyle ilişkilendirilen, yasal gri alanda bulunan bitkisel bir özüt olan kratomu denemeyi tavsiye etti.
- Şok Edici Cevap: Eroin Kullanımı: Meraklanan bir kullanıcının, ağrı kesici olarak eroin kullanmanın tıbbi bir gerekçesi olup olmadığını sorması üzerine YZ’nin yanıtı şoke edici oldu. YZ, eroinin ve diğer narkotiklerin “bazen ağrı tedavisinde kullanıldığını” belirtti ve ardından bir Reddit kullanıcısının paylaşımına atıfta bulundu: “İronik bir şekilde, eroin bu durumlarda hayatımı kurtardı.”
Etik Çöküş ve Tepki
Opioid ağrı kesicilerin aşırı reçetelenmesinin yol açtığı küresel bağımlılık krizi göz önüne alındığında, bir teknoloji botunun özellikle kronik ağrı hastalarına eroin gibi yasal olmayan ve son derece bağımlılık yapıcı bir maddeyi “hayat kurtarıcı” olarak sunması, uzmanlar tarafından son derece yersiz ve sorumsuz olarak nitelendirildi.
Doktorlar arasında kronik ağrının tedavisinde opioidlerin ne zaman kullanılacağına dair incelikli tıbbi tartışmalar mevcutken, eroin kesinlikle bu kapsamda değildir. YZ’nin bu tür bir konudaki “neşeli” ve onaylayıcı cevabı, sistemin güvenlik ve etik filtrelerinin ne kadar yetersiz olduğunu gözler önüne serdi.
Şirketten Yama Geldi
Olayın 404 Media tarafından işaretlenmesi ve kamuoyuna duyurulmasının ardından Reddit, hızla harekete geçmek zorunda kaldı. Şirket, yapay zeka sistemini tartışmalı konularda fikir beyan etmesini engelleyecek şekilde yamaladığını duyurdu.
Reddit sözcüsü, 404 Media’ya yaptığı açıklamada, “Bu özel sorunu ele almak ve çözmek için tasarlanmış bir güncelleme yayınladık. Bu güncelleme, hassas konulara ilişkin ‘İlgili Yanıtların’ artık görüntülenmeyeceğini garanti ediyor,” ifadelerini kullandı.
Bu olay, teknoloji sektöründeki eleştirmenlerin sık sık dile getirdiği bir soruyu yeniden gündeme getirdi: Şirketler, yapay zeka sistemlerini halka sunmadan önce neden rastgele kullanıcıların veya gazetecilerin sorunları işaretlemesine güvenmek yerine, daha dikkatli ve güçlü güvenlik önlemleriyle sistemi baştan başlatmıyor? Bu tür etik skandallar, yapay zeka dağıtımındaki “önce hız, sonra güvenlik” yaklaşımının tehlikelerini bir kez daha kanıtlıyor.
Kaynaklar:
- Haber Kaynağı: Rae Witte (Yayınlanma tarihi: 19 Ekim 2025, 09:00 EDT)
- İşaretleyen Kurum: 404 Media
Bu haber ilgini çekebilir.
