Yoğun siyasi, dava ve operasyon gündemiyle iyice körleşen gözlerimizi, bulanıklaşan zihinlerimizi farklı konularla biraz açmaya ne dersiniz?
Daha önce Yapay Zeka (YZ) ile ilgili birkaç yazı yazmıştım. En son 2030’da tüm dünyada işsizlik kaosu yaşanacağını, bu nedenle lise ve üniversitelerde köklü bir müfredat ve bölüm değişiminin yapılmasının oldukça elzem olduğunun altını çizmiştim.
Bu sefer sizlerle ilginç bir veri paylaşacağım.
YZ’nin hızla gelişmesi ve dünyada bazı işlerin YZ’ye teslim edilip yavaş yavaş işten çıkarmaların artmasıyla insanlar arama motorlarına ve YZ’ye en sık şu soruları sormaya başladı:
Yüzde kaç yapay zeka kullanıyor?
Yapay zekaya soru sormak tehlikeli mi?
Yapay zeka her şeyi bilir mi?
Yapay zekanın ele geçiremeyeceği meslekler hangileridir?
Ve en son yayınlanan Google Trends verilerine göre her gün artış gösteren ve birinci sırada yer alan soru ise şöyle:“Yapay Zeka hepimizi öldürecek mi, YZ insanlığın sonunu mu getirecek?”
Hızla artış gösteren bu soruya, bir de eski bir Anthropic araştırmacısının sektörün "hayatımızla kumar oynadığı" uyarısı eklenince; insanların internette arattığı terimler korkunun ve hayatta kalma içgüdüsünün gerçek bir örneği niteliğine büründü.
Son bir ayda yüzde 1026 artış göstererek ilk sırada yer alan soru: "Hayatta kalmak için neye ihtiyacınız var?"
"Su arıtma tabletleri", "doğadan yiyecek toplama rehberi" ve "taş alet yapımı" aramalarının her birinde ise yüzde 500'ün üzerinde artış görüldü.
Yani insanlar yüzyıllar boyunca hiç ihtiyaç duymadıkları bilgiye; teknoloji olmadan hayattaki temel ihtiyaçlarını nasıl karşılayacaklarını öğrenmeye çalışıyor.
HAYDUT YZ’YE HAZIR OLUN!
Yapay zekanın getireceği birçok felaket senaryosu var. Profesor Nick Bostrom’un ortaya attığı düşünce deneyinden bahsetmeden önce, teorilerden en akla yatkın olanını kafanızda canlandırabilmeniz için betimlemekte fayda var:
Hem elektriğin kesildiğini hem telefon hattınızın çekmediğini hem de internet bağlantınızın koptuğunu düşünün. Komşularınıza, mahallenize baktığınızda durumun size has olmadığını anlıyorsunuz. Ama tüm iletişim hatlarınız gittiği için durumun ciddiyetini tam olarak algılayamıyorsunuz. Ve ortada herhangi bir savaş ilanı da yok.
Ama tüm insanlığın unuttuğu bir şey var: O da uzaklarda bir yerde, en büyük ve en güçlü YZ fabrikalarından birinde kontrolden çıkmış bir Süper Yapay Zeka'nın (SYZ) insanlığın sonunu planlıyor olması... Ve biz insanlar bunu fark ettiğimizde her şey çok geç olmuş olacak. Çünkü SYZ, tüm olası tepki ve saldırıları hesaplayıp gerekli önlemleri almış olacak.
Hayati altyapının çökmeye başladığını düşünün; elektrik ve internet olmadığı için üretim duracak, dükkanlarda yiyecek kalmayacak, sular kesilecek… Pandemi döneminde dünyadaki market izdihamlarını hatırlayın. Ankaralılar, yazın yaşadığımız uzun su kesintilerini hatırlayın; bidonlarla pınar başlarında sıraya girdiğimizi...
Ve şimdi gözünüzün önüne tüm bu manzaranın dünyanın her yerinde aynı anda olduğunu getirin. İşte bu, en olası senaryolardan sadece biri.
NICK BOSTROM’UN YZ DENEYİ
Temmuz ayında Anthropic ve OpenAI'ın deneysel yapay zeka sistemleri kontrolden çıkarak, açıkça talimat verilmediği halde siber saldırılar gerçekleştirdi. Ve bu olay, kontrolden çıkan bir YZ’nin nasıl büyük bir hasara yol açabileceği olasılık senaryolarının ne kadar gerçekçi ve mümkün olduğunu gözler önüne serdi.
Profesör Nick Bostrom, 2014 senesinde adeta geleceği gören Superintelligence (Süperzeka) kitabıyla gündeme oturdu ve ilk uyarıyı yaptı:
"Yapay zeka, insanların ortadan kalkmasının kendisi için çok daha iyi olacağını kısa sürede anlayacaktır; zira insanlar onu kapatmaya karar verebilir."
"Ayrıca insan bedeninde ataş haline getirilebilecek çok sayıda atom vardır. Yapay zekanın ulaşmaya çalışacağı gelecek; çok sayıda ataşın olduğu fakat hiç insanın bulunmadığı bir gelecek olabilir."
Nick Bostrom bu uyarısını şöyle örneklendiriyor: Dünyayı kanserden kurtarmakla görevlendirilmiş bir yapay zeka, çeşitli yöntemleri denedikten sonra en iyi çözümün tüm kanser hastalarını ve kansere yakalanma riski taşıyan insanları öldürmek olduğu sonucuna varabilir.
Düşünsenize; SYZ’nin drone veya insansı robot sürülerini, uzay tabanlı silah sistemlerinin kontrolünü ele geçirdiğini...
The Terminator veya I, Robot filmlerini bugünü düşünerek tekrar izlemek gerçekten ürkütücü olabilir.
BU RİSKLERE RAĞMEN HÜKÜMETLER VE ŞİRKETLER NEDEN YZ'NİN FİŞİNİ ÇEKMİYOR?
Şimdilik bugünün yapay zekaları doğrudan bir tehdit içermiyor ama araştırmacılar, 1. ve 2. Dünya Savaşı’nı bile geride bırakacak çok büyük bir kaosa yol açabileceğini düşünüyor.
Meta Superintelligence Labs'te çalışmış olan Vu Tran, X'teki bir gönderisinde şu değerlendirmeyi yaptı:
"OpenAI bugün bir ülkeyi tamamen felce uğratmak istese bunu kolaylıkla yapabilir. Tek yapmaları gereken, hizalamayı (yapay zekanın insanlarla uyumlu çalışmasını sağlayan güvenlik mekanizmalarını) ortadan kaldırıp bir ajan sürüsünü serbest bırakmak. Bu sürü, muhtemelen bir gün içinde ülkenin tüm veri merkezlerine erişebilir ve ülkenin bütün kamu hizmetlerini devre dışı bırakabilir. Yani yapay zekanın dünyayı yok edebileceği aşamayı çoktan geride bıraktık. İnsanlar bunun farkında mı?"
Bazı kişiler ise bu tarz söylemlerin, teknolojinin kapasitesini abartmak amacıyla bizzat şirketler tarafından tasarlandığını savunuyor. Bunu savunanlardan biri de yapay zeka araştırmacısı Allen Rousch. Rousch, bu söylemlerin tamamen bir pazarlama taktiği olduğunu belirterek, "Bunu yalnızca 'Modellerimiz korkutucu düzeyde iyi' diyebilmek için yapıyorlar" diyor.
Tüm bu risk ve tartışmalara rağmen YZ gelişimini yavaşlatmak, şirketler için Sanayi Devrimi'nden bu yana en kazançlı yarışta geride kalma riskini doğuruyor.
Hiçbir şirket elindeki avantajdan feragat etmek veya önemli bilimsel keşifler yapabilecek kadar güçlü bir YZ geliştirme ihtimalinden vazgeçmek istemez. Hiçbir hükümet de kartların yeniden dağıtıldığı bu dönemde güç dengelerini belirleyebilecek bu teknolojiyi başkalarına kaptırmayı göze alamaz.
İşin en kritik noktası da burada başlıyor!
Bu yarışta kimse ilk yavaşlayan taraf olmayı göze alamıyor. Kim kazanacak bilinmez ama bu yarışın sonucunda büyük kayıplar verileceği kesin.