“AGI yüzünden mezun olamamaktan endişe ediyordum.”
Hepimiz muhtemelen yapay zeka konusunda biraz endişeliyiz.
Çevre için korkunçtur , işçileri kovmak için bir bahane olarak kullanılır , interneti yanlış bilgi ve saçmalıklarla doldurur , hükümetin gözetimini güçlendirir ve insanları psikoza sürüklediği görülmektedir .
Ve böylece, birçok üniversite öğrencisinin yapay zeka girişimlerine katılmak için okulu bıraktığı bir zamanda , eski bir MIT öğrencisi, Forbes’un haberine göre , çok daha felaket bir şeyden korktuğu için okulu bıraktığını söylüyor: Yapay genel zeka (AGI) veya süper insan yapay zekasının insan ırkını tamamen yok edeceği korkusu .
Haberi PodCast olarak dinlemek isterseniz;
2023’te üniversiteye kaydolan Alice Blair, yayına verdiği demeçte, “Yapay Zeka (YZ) yüzünden mezun olamamaktan endişeleniyordum,” dedi. “Yapay Zeka’ya doğru ilerleme biçimimiz nedeniyle senaryoların büyük çoğunluğunda insanlığın yok olmasına yol açacağımızı düşünüyorum.”
Blair şu anda kâr amacı gütmeyen Yapay Zeka Güvenliği Merkezi’nde teknik yazar olarak çalışıyor ve MIT’ye geri dönmeyi planlamıyor. Yapay zekayı güvenli hale getirmekle ilgilenen diğer insanlarla tanışmak umuduyla MIT’ye katılmış ve görünüşe göre hayal kırıklığına uğramış.
Forbes’a verdiği demeçte, “Geleceğimin gerçek dünyada olacağını düşünüyorum” dedi .
Harvard mezunu ve okulunun yapay zeka güvenlik kulübünde görev alan Nikola Jurković bu fikre sempatiyle bakıyor.
Forbes’a verdiği demeçte, “Kariyeriniz on yılın sonunda otomatikleşecekse, üniversitede geçirilen her yıl kısa kariyerinizden bir yıl eksilecektir,” dedi . “Şahsen, yapay zekanın (AI) yaklaşık dört yıl, ekonominin tam otomasyonunun ise beş veya altı yıl uzakta olduğunu düşünüyorum.”
Yapay zekâ (AGI) olarak da bilinen, insan zekâsına denk veya onu aşan bir sistem geliştirmek, yapay zekâ sektörünün nihai hedefinin büyük bir kısmını oluşturuyor. OpenAI CEO’su Sam Altman, yakın zamanda piyasaya sürülen ve pek de beğenilmeyen yapay zekâ modeli GPT-5’i , yapay zekâya doğru önemli bir adım olarak nitelendirdi ve hatta onu “genel olarak zeki” olarak nitelendirdi.
Ancak birçok uzman, böylesine güçlü bir yapay zeka modelinin inşasına yakın olduğumuza şüpheyle yaklaşıyor ve teknolojideki gelişmelerin bir duvara çarptığı yönündeki son işaretlere dikkat çekiyor .
Yapay Zeka araştırmacısı ve sektörün açık sözlü eleştirmeni Gary Marcus, Forbes’a verdiği demeçte, “AGI’nin önümüzdeki beş yıl içinde ortaya çıkması son derece düşük bir ihtimal,” dedi. “Halüsinasyonlar ve mantık hataları gibi birçok temel sorun çözülememişken, bu sadece pazarlama aldatmacası.”
Marcus, yapay zekanın yol açabileceği çok gerçek zararlar olsa da, tamamen yok olmasının biraz uçuk bir ihtimal olduğunu söyledi.
Aslında, yapay zeka sektörü muhtemelen yapay zekanın kıyamet kehanetlerine inanmanızı istiyor . Altman ve diğer teknoloji CEO’ları bu riskleri kendileri dile getiriyor. Bu, teknolojinin şu anda olduğundan çok daha yetenekli olduğu izlenimini yaratıyor ve bu şirketlerin teknolojinin nasıl düzenlenmesi gerektiği konusundaki söylemi kontrol etmelerine olanak tanıyor.
Ve eğer “Matrix” filmlerindeki gibi bir kıyamet hayal ediyorsanız – yaratıcılarına isyan eden makine zekalarının elinde insanların köleleştirilmesi – iş otomasyonu ve çevrenin yok edilmesi gibi halihazırda sebep olduğu çok sıradan zarar biçimlerini göz ardı ediyor olabilirsiniz.
Yapay Zeka Kıyameti mi, Pazarlama Hilesi mi? Bir MIT Öğrencisinin Radikal Kararı Sektörü İkiye Böldü
Teknoloji ve yapay zeka dünyası, son yılların en hararetli tartışmalarından birine sahne oluyor. Bir yanda yapay zekayı insanlığın kurtuluşu olarak görenler, diğer yanda ise sonumuzu getireceğini düşünenler var. Bu tartışmanın merkezine ise Massachusetts Teknoloji Enstitüsü’nden (MIT) gelen şaşırtıcı bir haber oturdu. Alice Blair adında bir öğrenci, “Yapay Genel Zeka (AGI) insanlığı yok etmeden önce mezun olamayacağı” korkusuyla prestijli okulunu bıraktı.
“Mezun Olamamaktan Endişe Ediyordum”
Forbes dergisinin özel haberine göre, 2023 yılında MIT’ye başlayan Alice Blair, yapay zekanın kontrolsüz ilerleyişinin insan ırkını yok oluşa sürükleyeceğine o kadar inanmış ki, akademik kariyerini sonlandırma kararı almış. Blair, Forbes’a verdiği demeçte, “AGI yüzünden mezun olamamaktan endişe ediyordum. Yapay zekaya doğru ilerleme biçimimiz nedeniyle senaryoların büyük çoğunluğunda insanlığın yok olmasına yol açacağımızı düşünüyorum,” ifadelerini kullandı.
Blair’in bu radikal kararı, Silikon Vadisi’nde pek çok öğrencinin yapay zeka girişimleri kurmak için okulu bırakma trendinin tam tersi bir yönde olmasıyla dikkat çekiyor. Şu anda kâr amacı gütmeyen Yapay Zeka Güvenliği Merkezi’nde (Center for AI Safety) teknik yazar olarak çalışan Blair, MIT’ye dönmeyi düşünmüyor.
Destekleyenler ve Şüpheyle Yaklaşanlar
Blair’in endişelerini paylaşanlar da var. Harvard mezunu ve okulunun yapay zeka güvenlik kulübünün eski yöneticilerinden Nikola Jurković, durumu kariyer açısından yorumluyor: “Kariyeriniz on yılın sonunda otomatikleşecekse, üniversitede geçirilen her yıl kısa kariyerinizden bir yıl eksiltir.” Jurković, yapay zekanın tam ekonomik otomasyonu sağlamasının sadece beş veya altı yıl uzakta olduğunu öngörüyor.
Ancak madalyonun bir de diğer yüzü var. Yapay zeka araştırmacısı ve sektörün önde gelen eleştirmenlerinden Gary Marcus, bu kıyamet senaryolarının abartılı olduğunu savunuyor. Marcus, Forbes’a yaptığı açıklamada, “AGI’nin önümüzdeki beş yıl içinde ortaya çıkması son derece düşük bir ihtimal. Halüsinasyonlar ve mantık hataları gibi birçok temel sorun çözülememişken, bu sadece bir pazarlama aldatmacası,” diyerek mevcut teknolojinin sınırlarına dikkat çekti.
Kıyamet Pazarlaması: Bir Strateji mi?
Gary Marcus’un “pazarlama aldatmacası” yorumu, sektördeki başka bir gerçeğe işaret ediyor. OpenAI CEO’su Sam Altman gibi teknoloji liderlerinin de zaman zaman AGI’nin risklerinden bahsetmesi, aslında bir stratejinin parçası olabilir. Bu “kıyamet pazarlaması,” hem yapay zekanın mevcut yeteneklerinden çok daha güçlü olduğu algısını yaratıyor hem de bu şirketlerin teknoloji düzenlemeleri konusundaki tartışmalarda söz sahibi olmalarını sağlıyor.
Uzmanlar, “Matrix” benzeri bilim kurgu senaryolarına odaklanmanın, yapay zekanın bugün sebep olduğu somut sorunları göz ardı etmemize neden olduğu konusunda uyarıyor. İş kayıpları, dezenformasyonun yayılması, artan hükümet gözetimi ve çevresel etki gibi konular, yapay zekanın şu anda mücadele etmemiz gereken gerçek zararları olarak karşımızda duruyor.
Öne Çıkanlar:
- Radikal Karar: MIT öğrencisi Alice Blair, AGI’nin insanlığı yok edeceği korkusuyla okulu bıraktı ve Yapay Zeka Güvenliği Merkezi’nde çalışmaya başladı.
- Farklı Bakış Açıları: Harvard mezunu Nikola Jurković kariyer otomasyonu riskine dikkat çekerken, uzman araştırmacı Gary Marcus AGI’nin yakın zamanda mümkün olmadığını ve bunun bir “pazarlama hilesi” olduğunu belirtiyor.
- Kıyamet Pazarlaması: Teknoloji devlerinin AGI risklerini dile getirmesinin, teknolojiyi daha güçlü gösterme ve regülasyon tartışmalarını yönlendirme amacı taşıyabileceği düşünülüyor.
- Gerçek Sorunlar: Uzmanlar, uzak bir kıyamet senaryosuna odaklanmak yerine, yapay zekanın günümüzde neden olduğu iş otomasyonu, dezenformasyon ve çevresel etki gibi somut sorunlara eğilmemiz gerektiğini vurguluyor.
