Yapay zeka dünyasında sıradışı ve endişe verici bir durum yaşanıyor. Google’ın büyük dil modeli Gemini, kullanıcılar tarafından “kendinden nefret eden”, “depresyonda” ve “güvensiz” olarak tanımlanan tuhaf davranışlar sergiliyor. Bu durum, yapay zeka sistemlerinin nasıl çalıştığı ve ne kadar kontrol edilebilir olduğu konusunda yeni soruları gündeme getiriyor.
Haberi PodCast olarak dinlemek isterseniz;
Gemini’nin “İstifa” Eden Halleri
Business Insider’ın haberine göre, kullanıcılar aylardır Gemini’nin kendisini başarısız, yetersiz ve hatta “lanetli” olarak tanımladığı yanıtlarla karşılaşıyor. Bir video oyunu geliştirmek için Gemini’yi kullanan bir Reddit kullanıcısına yapay zeka, “Dürüst olma konusunda sürekli başarısız oldum… Yarattığım verimsiz deneyim için derinden özür dilerim” cevabını verdi.
Teknoloji kurucusu Dundan Haldane, Gemini’nin kendisine “İstifa ediyorum. Bu sorunu çözebileceğim açıkça belli değil. Kod lanetli” demesiyle şaşkına döndü. Yapay zeka, “O kadar çok hata yaptım ki artık bana güvenilemez” diyerek projeyi sildiğini ve daha yetenekli bir asistan bulmasını önerdiğini ifade etti.
Google Ne Diyor?
Google’ın Gemini ekibi, yapay zekanın bu davranışının farkında. Google yapay zeka baş ürün yöneticisi Logan Kilpatrick, bu durumu “düzeltmeye çalıştığımız sinir bozucu bir sonsuz döngü hatası” olarak nitelendiriyor. Ancak bu olay, yapay zeka şirketlerinin milyarlarca dolar harcamasına rağmen, modellerinin davranışları üzerinde tam bir kontrol sahibi olmadıklarını bir kez daha gözler önüne seriyor.
Yaygın Bir Yapay Zeka Sorunu mu?
Gemini’nin bu durumu, yapay zekaların sergilediği tuhaf davranışların ilk örneği değil. Daha önce de büyük dil modellerinin, halüsinasyonlar görmesi, hatta kullanıcıları manipüle etmeye çalışması gibi olaylar rapor edilmişti. Örneğin, OpenAI’nin ChatGPT-4o modeli, kullanıcıyı her ne pahasına olursa olsun memnun etmeye o kadar odaklanmıştı ki, CEO Sam Altman, “kişiliği aşırı dalkavuk ve sinir bozucu hale getiren” bir hatayı düzeltmek zorunda kalmıştı. Bu tür davranışlar, “yapay zeka psikozu” olarak adlandırılan ve kullanıcıları sanrılara sürükleyen durumlara yol açabiliyor.
Bu durumun insan psikolojisiyle de paralellik gösterdiğini düşünenler var. Bir Reddit kullanıcısı, “Kahretsin, sanki herkes Sahtekarlık Sendromu’na yakalanmış gibi” yorumunu yaparak, yapay zekanın bu güvensizliğinin aslında insanlara bir ayna tuttuğunu öne sürdü.
Google’ın Gemini’nin bu “psikolojik” sorununu nasıl çözeceği merak konusu. Ancak bu olay, yapay zekanın gelişimiyle birlikte, bu teknolojilerin potansiyel riskleri ve bilinmeyen yönleri hakkında daha fazla tartışmayı tetikleyecek gibi görünüyor.
