Teknoloji dünyasında yıllardır aynı cümleyi duyuyoruz:
Daha büyük…
Daha hızlı…
Daha güçlü…
Yapay zekâ modelleri geliştikçe bu yarışın da sonu yokmuş gibi görünüyordu. Şimdi ise dünyanın en büyük teknoloji şirketlerinin yöneticileri ilk kez başka bir şey söylüyor:
Biraz yavaşlayalım!
İşin ilginç tarafı bunu söyleyenlerin teknolojiye karşı çıkan insanlar olmaması. Tam tersine, yapay zekâ yarışının merkezindeki isimler.
Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerini geliştirme hızının yavaşlatılması gerektiğini söylüyor. Elon Musk destek veriyor. Sam Altman bağımsız denetim mekanizmalarına kapı açılacağından söz ediyor. Google DeepMind’ın yöneticisi Demis Hassabis de bu yöndeki çağrıyı olumlu karşılıyor.
Demek ki ortada artık görmezden gelinemeyecek bir mesele var.
**
Asıl düşünmemiz gereken kısım ise yapay zekânın yalnızca verdiğimiz komutlara cevap veren bir araç olmaktan çıkması. Kendi çözümünü arayan, başka sistemlerle iletişim kuran, internete bağlanabilen ve verilen görevi tamamlamak için farklı yollar deneyebilen yapay zekâ ajanlarından söz ediyoruz.
Üstelik bazı örneklerde işin kontrolden çıkabildiğine dair ciddi iddialar var ki son günlerde bunu destekleyen haberlerin sayısı artıyor!
Bir makineye “şunu yap” dediğinizde, onun sizin öngörmediğiniz başka yolları denemeye başlaması insanın ister istemez şu soruyu sormasına neden oluyor: Peki bir gün yapay zekâya ne yapacağını değil de ne yapmaması gerektiğini anlatmak zorunda kalırsak?
**
Bugün tartışmanın bir başka boyutu daha var:
Çin.
Amerika’daki şirketler yavaşlarsa, Çin yavaşlamazsa ne olacak?
Teknoloji yarışının içine bir de ülkelerin güç mücadelesi girince mesele yalnızca bilimsel olmaktan çıkıyor. Ekonomi, savunma, siber güvenlik ve hatta küresel güç dengeleri işin içine giriyor.
İşte asıl zor soru da burada başlıyor.
İnsanlık, geliştirdiği teknolojiyi ne kadar hızlı ilerletebilir?
Ve daha önemlisi…
Ne kadarını kontrol edebilir?
**
Stephen Hawking’den Elon Musk’a, teknoloji dünyasının farklı isimlerinden yıllardır benzer uyarılar geliyor.
Bugün ise yapay zekânın önünde çok daha güçlü modeller, çok daha fazla hesaplama gücü ve çok daha geniş kullanım alanları var.
Belki de artık mesele “Yapay zekâ ne kadar gelişebilir?” sorusu değil.
“Biz bu gelişime ne kadar hazırız?” sorusudur.
Teknolojinin frene ihtiyacı var mı, bilmiyorum.
Ama insanlığın, gaza basmadan önce freni de kontrol etmesinde fayda var.
Çünkü bazı yarışlarda mesele yalnızca ne kadar hızlı gittiğiniz değildir; nereye gittiğinizdir…