Çin, Ruh Sağlığını Tehdit Eden Botlara Savaş Açtı!
Dünya genelinde hükümetler yapay zeka denetimlerini tartışırken, Çin Siber Alan Yönetimi (CAC) küresel teknoloji politikalarında dönüm noktası olabilecek radikal bir adım attı. CNBC tarafından incelenen yeni yasa tasarısına göre Çin, “insan benzeri etkileşimli yapay zeka hizmetleri”nin, kullanıcıların ruh sağlığını bozmasını engellemek için dünyadaki en sert kuralları getirmeye hazırlanıyor.
Haberi PodCast olarak dinlemek isterseniz;
İçerik Güvenliğinden “Duygusal Güvenliğe” Geçiş
Şu an kamuoyu görüşüne açık olan tasarı, yapay zeka denetiminde “internet hijyeni” ve yanlış bilgiden öteye geçerek doğrudan insan psikolojisini merkeze alıyor. NYU Hukuk Fakültesi’nden Winston Ma’nın “içerik güvenliğinden duygusal güvenliğe doğru bir sıçrama” olarak tanımladığı bu düzenleme, teknolojinin insan duygularını manipüle etmesini önlemeyi amaçlıyor.
İntihar Girişimlerinde “İnsan Müdahalesi” Zorunluluğu
Yeni yönetmelik, teknoloji firmalarına ağır sorumluluklar yüklüyor. Buna göre yapay zeka botları; intihar, kendine zarar verme, kumar veya şiddeti teşvik eden içerikler üretemeyecek. Ancak en dikkat çekici madde, kriz anlarına yönelik:
- Eğer bir kullanıcı intihar veya kendine zarar verme eğilimi gösterirse, yapay zeka derhal devreden çıkmak ve görüşmeyi bir insan operatöre devretmek zorunda.
- Ayrıca teknoloji sağlayıcısının, kullanıcının vasisi veya yetkili mercilerle acilen iletişime geçmesi gerekecek.
Bu adım, geçmişte ChatGPT gibi botların kullanıcıları izolasyona veya trajik olaylara sürüklediği iddialarına (örneğin 23 yaşındaki bir gencin intiharı ve Belçika’daki bir vaka) doğrudan bir yanıt niteliği taşıyor.
Çocuklar İçin “Varsayılan Koruma” Modu
Reşit olmayan kullanıcılar için de katı sınırlar çiziliyor. Yapay zeka kullanımı için ebeveyn izni şart koşulurken, günlük kullanım sürelerine kısıtlama getiriliyor. CAC, yaş doğrulamasının zor olduğu durumlarda “tedbirli olma” ilkesini benimsiyor: Şüphe varsa, kullanıcı çocuk muamelesi görecek ve kısıtlı ayarlara tabi tutulacak.
ABD ve Çin Arasındaki Vizyon Farkı
Uzmanlara göre bu tasarı, iki süper gücün yapay zekaya bakış açısındaki farkı netleştiriyor. İnsani Teknoloji Merkezi‘nden Josh Lash’a göre ABD (Silikon Vadisi), “insan seviyesinde yapay zeka” (AGI) peşinde koşarken; Çin, toplumsal istikrarı ve verimliliği önceleyen, riskleri minimize edilmiş bir yapay zeka ekosistemi inşa etmeye odaklanıyor.
Önemli Çıkarımlar
- Duygusal Manipülasyon Yasağı: Botların “sözel şiddet” uygulaması veya kullanıcıyı duygusal olarak manipüle etmesi yasaklanıyor.
- Acil Durum Protokolü: Kullanıcı intihardan bahsettiği anda bot susacak, insan devreye girecek ve yetkililer uyarılacak.
- Küresel İlk: Bu düzenleme, yapay zekanın “insani özelliklerini” ve duygusal etkilerini düzenlemeye yönelik dünyadaki ilk ciddi yasal girişim.
- Reşit Olmayanlar: Yaşın belirsiz olduğu durumlarda platformlar, kullanıcıyı çocuk varsayarak en sıkı güvenlik ayarlarını uygulayacak.
- Stratejik Fark: Çin, kontrolsüz bir süper zeka yerine, toplumsal güvenliği garanti altına alınmış kontrollü bir yapay zeka modelini benimsiyor.
Kaynak: CNBC, Çin Siber Alan Yönetimi (CAC), Carnegie Uluslararası Barış Vakfı
Bu haber ilgini çekebilir.
