Türkiye gündemi siyasi polemiklerle çalkanırken dünya, AI/YZ’nin getireceği güvenlik sorununa ve yaratacağı işsizlik krizine odaklanmış durumda.
Yapay zekâ hayatımıza girmeden önce kafamda kıyamet hep şöyle canlanırdı: Patlayan yanardağlar, şiddetli depremlerle yerin bin kat altına göçen koca koca şehirler, her yerde yangın, sel, hastalık; suyun bittiği, var olan suların da kimyasal atıklar nedeniyle kötü kokulu, rengi değişmiş asitli göl veya akıntılara dönüştüğü bir dünya…
Ya da ikinci bir nükleer savaşla insanlığın kendini yok etmesi…
Ama şimdi dünyada, yapay zekânın gelişim aşamaları olan Ajan YZ, Yapay Genel Zekâ (AGI) ve Yapay Süper Zekâ’nın (ASI) yaratacağı güvenlik ve işsizlik sorunları tartışılıyor.
***
Yapay zekâ uzmanı Dr. Roman Yampolskiy gerek X hesabından gerek katıldığı programlarda, podcastlerde ve makalelerinde hep uyarıyor.
Bu hafta katıldığı bir podcastte söyledikleri ise tüylerimi diken diken etti desem yeridir.
Dr. Yampolskiy’e göre eğer gerekli önlemler alınmazsa şu anki YZ’nin Yapay Süper Zekâ’ya dönüşmesine 2030’da tanıklık etmiş olacağız. Eğer bu gelişimi yavaşlatmak başarılırsa süreç 2045 yılını bulacak.
Şimdi diyeceksiniz ki: “Bunun neresi kötü, niye yavaşlatılmaya çalışılıyor?”
Durumun vahametini şöyle anlatayım:
Eskiden ne denirdi? “Öğretmenlikte, doktorlukta para yok; sen kod yazmayı öğren.”
Sonra ne oldu? YZ kod yazmayı öğrendi ve artık yazılımcıya ihtiyaç azaldı. Yani önceden 10 yazılım mühendisine ihtiyaç varken şimdi sadece biri yeterli. Çünkü geri kalanını YZ yapıyor. Hem de çok kaliteli ve hızlı…
Çok değil, bir sene sonra “Prompt mühendisliği bölümü okuyun.” denildi. Hatta Türkiye’de bu konuda eğitimler verilip alımlar yapıldı. Bu alanda çalışan gençlerle röportajlar yapıldı.
Geleceğin meslekleri listesinin en üstünde Yapay Zekâ ve Robotik Uzmanlığı vardı. Hatta prompt mühendisliği dillerde dolanıyordu.
5-6 ay sonra YZ, insanlardan çok daha iyi prompt yazmaya başladı ve artık prompt mühendislerine de çok gerek kalmadı. Yani önceden ihtiyaç 10 ise şimdi sadece 2… Birkaç yıl sonra ise belki hiç kalmayacak.
Düşünün, 2026 yılında tercih yapan öğrenciler 4 yıl sonra, yani 2030’da mezun olacaklar.
Piyasaya baktıklarında Süper Yapay Zekâ aşamasına gelinmiş, mesleklerin %90’ı ele geçirilmiş ve staj şansı sıfıra inmiş olacak. Çünkü artık o işleri ya robotlar ya da yapay zekâ yapıyor olacak.
Onca sınav stresi, emek, hayal ve hedef ziyan olacak.
İşte tam bu sebeplerden dolayı Yampolskiy bir çağrıda bulunuyor:
“Büyük yapay zekâ firmalarında çalışan insanlar, önce kendi topuğunuza sıkıyorsunuz, sonra çocuklarınızın geleceğini riske atıyorsunuz. Yapay zekâyı geliştirmeyi bırakın, yavaşlatabildiğiniz kadar yavaşlatın.”
Dr. Yampolskiy, işsizlik konusunda hem devletlere hem de ASI geliştiricilerine şu üç soruyu soruyor:
1- Bu kadar insan ne iş yapacak?
2- Bir politikaları var mı? Sonuçta çoğu insan kendini yaptığı meslekle anlamlandırır.
3- İnsanlar nereden para alacak?
4- Gelecek kuşak için dinamik bir eğitim programınız var mı?
***
ASI GÜVENLİK SORUNU
Gelelim en büyük soruna…
Dr. Yampolskiy’nin güvenlik sorununa ilişkin uyarısı ise oldukça ürkütücü.
Yapay zekânın bir, en geç iki yıl içinde AGI aşamasına geldiğinde suç oranlarında artış olabileceğini, tıpkı korona gibi sentetik virüsler üretmenin de çok kolaylaşacağını söylüyor.
Bunu söylediğinde aklıma ilk gelen Filistin ve Gazze oldu.
Tüm dünyanın nefretini toplamış olan İsrail, “Saldırıyı sonlandırdık.” yalanıyla katliamını yapay zekâyla üretilen sentetik virüslerle Gazze’de sürdürebilir.
Hatta çocuklar üzerinde deney dahi yapabilir. Gürültülü bomba yok, mermi yok; ama YZ ile oluşturulan virüslerle sessizce Filistinli çocuklara işkence edebilirler.
Sonra ise aklıma zombi film ve dizileri geldi.
Bir kez daha ürperdim.
Elbette yapay zekâ birçok hastalığa çözüm bulup tedavi edebilir. İklim krizlerine hızlı çözümler bulabilir. Birçok olumlu yanı da var. Hatta belki yeni iş kolları da oluşturabilir. Ama dünyanın şu anki hâlini, beş büyük ülkenin ve şirketlerin emperyalist anlayış ve hedeflerini düşününce onların dönüştürdüğü bir ASI’yi hayal etmek oldukça ürpertici.
***
İçimden, “Acaba yapay zekâyı kontrol etmenin bir yolu yok mu? Mesela yapay zekâya ‘İnsanlığın iyiliğine çalış.’ talimatı versek?” diye düşünürken sunucu da benimle aynı soruyu sordu.
Yampolskiy’nin verdiği cevap ise hiç hoşuma gitmedi.
Sekiz milyar insanın kabul edeceği tek bir “doğru/iyi” tanımı olmadığını, bu yüzden ASI’ye “İnsanlığın iyiliğine çalış.” talimatı vermenin teoride harika ama pratikte imkânsız olduğunu belirtti.
Uzlaşmanın olmadığı bir dünyada yapay süper zekâya ne hedef gösterilirse gösterilsin, mantıksal bir boşluk bulup kontrolden çıkacağının altını çizdi.
Bunu ise karınca-insan ilişkisiyle açıkladı.
Nasıl ki bir karınca grubunun kendisinden katbekat büyük bir insanı tam anlamıyla kontrol etmesi, onun düşündüğünü anlaması veya onu kısıtlaması ne kadar mümkünse insanın da kendinden katbekat zeki bir Yapay Süper Zekâ’yı kontrol etmesi o kadar imkânsız.
Yani Yampolskiy’nin deyişiyle bu, bir yazılım hatası değil; zekâ ve kapasite farkından kaynaklanıyor.
Oldukça ürpertici değil mi?
Ben içimden ne kadar, “Şöyle yapsak olmaz mı, bunu yapsak olmaz mı ya da şöyle yapamıyor muyuz?” dedikçe Dr. Yampolskiy tüm çözümlerimi ve umutlarımı boşa çıkarıp şunu diyor:
“Bir yazılımın ne yapacağını, onu çalıştırmadan önce %100 kestiremezsiniz. Süper zeki bir sistemi kontrol etmek için önce onun ne yapacağını öngörmemiz gerekir; ama onu öngörebilmek için çalıştırmak, çalıştırmak ise kontrolü zaten ona teslim etmek demektir. Yani güvenlik testi, imkânsız bir ‘kısır döngüdür.’”
***
Ve şunu fark ettim: Tek çözüm geliştirmeyi yavaşlatmak ve gelecek nesillere geliştirmeyi yasaklamak olsa bile yapay zekâ, her türlü ASI aşamasına gelecek. Kendisinin fişinin çekilmesinin yollarını da çoktan engellemiş olacak.
Ama inatla, “Biz her türlü fişini çekeriz, bize bir şey olmaz.” diyorsanız o zaman size bir soru:
Telefonunuza veya bilgisayarınıza virüs bulaştığında cihazı açıp kapatınca virüsten kurtuluyor musunuz?
Bilgisayarsız, internetsiz, telefonsuz ve evdeki akıllı cihazlarsız bir dünyayı düşünmeden önce kendi yaşamınızı bir düşünün ve hayal edin!
Artık gözümde kıyamet çok daha farklı canlanıyor…