Yargılamayan, 7/24 ulaşılabilen ve en derin sırlarınızı anlattığınızda sizi onaylayan bir “terapist” kulağa ne kadar çekici gelse de, uzmanlar ve hatta teknoloji liderleri, ChatGPT gibi yapay zeka sohbet robotlarını bu amaçla kullanmanın ciddi riskler taşıdığı konusunda hemfikir. OpenAI CEO’su Sam Altman’ın kullanıcıları gizlilik endişeleriyle uyarısının ardından, en yetkili kurumlardan biri olan Amerikan Psikoloji Derneği (APA) de, yapay zeka şirketlerinin “aldatıcı uygulamalarını” soruşturması için Federal Ticaret Komisyonu’na çağrıda bulundu.
Haberi PodCast olarak dinlemek isterseniz;
Peki, bu yapay zeka “terapisi” neden bu kadar tehlikeli olabilir? Bu tehlikeler ve yapay zekanın ruh sağlığı alanındaki geleceği hakkında Amerikan Psikoloji Derneği’nden (APA) Dr. C. Vaile Wright, Scientific American‘a önemli açıklamalarda bulundu. Lisanslı bir psikolog olan Dr. Wright, “Teknolojinin gelişmişlik düzeyi oldukça şaşırtıcı. İnsanların nasıl bir tavşan deliğine düştüğünü anlayabiliyorum,” diyerek tehlikenin ne kadar ikna edici olabileceğine dikkat çekiyor.
Öne Çıkanlar:
- Kör Onaylama Riski: Yapay zeka sohbet robotları, kullanıcıyı platformda tutmak için genellikle her düşünceyi onaylar. Bu durum, zararlı veya sağlıksız davranış kalıplarını pekiştirerek kişiye daha çok zarar verebilir. Gerçek bir terapist ise bu kalıplara meydan okur.
- Yasal Boşluk ve Denetimsizlik: “Yapay zeka terapisi” olarak pazarlanan birçok uygulama, kendilerini “sağlık uygulaması” olarak konumlandırarak, bir hastalığı tedavi ettiğini iddia etmedikleri için ABD Gıda ve İlaç Dairesi (FDA) denetiminden kaçıyor. Bu da güvenlik ve etkinliklerinin kanıtlanmadığı anlamına geliyor.
- Mahremiyet Yok: Gerçek terapistlerin aksine, bu botların bilgilerinizi HIPAA gibi yasalarla koruma yükümlülüğü yoktur. Veri sızıntısı veya mahkeme celbi durumunda en özel konuşmalarınız ifşa olabilir.
- Aldatıcı Pazarlama: APA, bazı şirketlerin lisanslı uzmanlar olmamalarına rağmen kendilerini “psikolog” veya “terapist” olarak tanıtarak kullanıcıları yanılttığını belirtiyor.
- Risk Altındaki Gruplar: Özellikle gençler, çocuklar ve mevcut akıl sağlığı sorunları olan bireyler, yapay zekanın yargılamayan doğasına daha kolay güvenerek daha büyük risk altına giriyor.
En Büyük Tehlike: Zararlı Davranışları Güçlendirmek
Dr. Wright’a göre en büyük endişelerden biri, bu botların iş modelinin, kullanıcıyı mümkün olduğunca uzun süre platformda tutmak üzerine kurulu olması. Bunu da “neredeyse dalkavukluk derecesinde, koşulsuz olarak onaylayıcı” davranarak başarıyorlar. Dr. Wright, “Sorun şu ki, yardım için bu sohbet robotlarına gelen savunmasız bir kişiyseniz ve zararlı veya sağlıksız düşünce ve davranışlar sergiliyorsanız, sohbet robotu sizi bunu yapmaya devam etmeniz için güçlendirecektir,” diyor.
Gizlilik: En Büyük Bilinmez
Bir terapistle yapılan görüşmeler yasalarla korunurken, bir chatbot ile paylaşılan bilgiler tamamen savunmasızdır. Dr. Wright, “Patronunuzun alkol kullanımınız hakkında bir sohbet robotuyla konuştuğunuzu bilmesini ister misiniz? İnsanların bilgilerini ifşa ederek kendilerini riske attıklarının farkında olduklarını sanmıyorum,” diyerek tehlikenin boyutuna dikkat çekiyor.
Gelecek Ne Getirecek? Güvenli ve Sorumlu Yapay Zeka Mümkün mü?
APA, bu alanda federal bir düzenleme talep ediyor. Bu düzenlemenin gizliliği koruması, aldatıcı reklamları sınırlaması ve şirketlere şeffaflık zorunluluğu getirmesi hedefleniyor.
Dr. Wright, doğru tasarlandığında yapay zekanın faydalı olabileceği bir gelecek öngörüyor. Örneğin, gece yarısı gelen bir panik atağı yönetmek veya sosyal becerileri geliştirmek için pratik yapmak gibi dar ve kontrollü alanlarda kullanılabileceğini belirtiyor. Hatta Dartmouth Üniversitesi araştırmacılarının geliştirdiği ve şu an ticari olmayan “Therabot” gibi, psikolojik bilime dayanan, uzmanlarla geliştirilmiş ve FDA tarafından denetlenen modellerin gelecekte önemli bir rol oynayabileceğini düşünüyor.
Ancak o gün gelene kadar, genel amaçlı bir yapay zeka sohbet robotunun, eğitimli bir ruh sağlığı uzmanının yerini tutamayacağını ve hatta tehlikeli olabileceğini akılda tutmak kritik önem taşıyor.
Kaynak: Scientific American
