Geçen haftalarda bu köşede yapay zekanın küresel güç savaşlarındaki yerini tartışmış; meselenin sadece bir teknoloji haberi değil, savunma sanayiinden siber güvenliğe uzanan doğrudan bir egemenlik mücadelesi olduğunu konuşmuştuk. Bu hafta ise madalyonun laboratuvarların kapalı kapıları ardında saklanan o diğer yüzüne bakacağız: Kendi halefini yazan teknolojiye ve hemen yanı başımızda büyüyen sessiz bir tehlikeye.
Bugüne kadar insanlık hangi teknolojiyi ürettiyse kontrolü hep elinde tuttu. Matbaayı biz kurduk, mürekkebini biz doldurduk. Bilgisayarı ürettik ama ona ne yapacağını söyleyen kodları hep insan aklı yazdı. Şimdi ise insanlık tarihinde ilk kez, kendi gelişimine aktif olarak katkı sağlayan, hatta bir sonraki neslini tasarlamaya yardım eden bir yapıyla karşı karşıyayız.
Claude Kod Yazıyor, Mühendis İzliyor
Dünyanın en gelişmiş yapay zeka laboratuvarlarından biri olan Anthropic'in yayınladığı son rapor, tam olarak bu kırılma noktasını gözler önüne seriyor. Şirket içinde yeni modeller geliştirmek için üretime giren kodların yüzde 80'inden fazlasını artık insan mühendisler değil, "Claude" adını verdikleri yapay zeka sistemi yazıyor. Dahası, yapay zekanın bu sürece dahil olmasıyla mühendislik üretim hızı sadece iki yıl öncesine göre sekiz kat artmış durumda. Yapay zeka artık sadece komutla çalışan bir asistan değil; araştırma yapan, hipotez kuran, deney tasarlayan ve kendi hatalarını saniyeler içinde düzelten bir ortak.
Tam bu noktada yapay zekanın öncülerinden Yoshua Bengio'nun o büyük uyarısı devreye giriyor: "Agentic AI", yani özerk yapay zeka... Cevap veren sistemlerden, kendi başına karar verebilen sistemlere doğru ilerliyoruz.
Geleceği Tehdit Eden Zihinsel Tembellik
Ancak laboratuvarlardaki bu baş döndürücü hız, madalyonun yalnızca teknik yüzü. İşin beni asıl düşündüren kısmı ise hemen yanı başımızda, evlerimizde ve sınıflarımızda yaşanıyor.
Bugün yeni neslin önemli bir bölümü yapay zekayı son derece kontrolsüz kullanıyor. Ödevler yapay zekaya yaptırılıyor, kompozisyonlar yazdırılıyor, araştırmalar birkaç saniyede özetletiliyor. Birçok öğrenci artık bilgiye ulaşmakla bilgiyi anlamak arasındaki farkı fark etmiyor.
Oysa insan beyni bir kas gibidir; zorlandıkça gelişir, yanıldıkça öğrenir, karşılaştırdıkça derinleşir. Kelime seçmek için uğraşmayan, bir mantık hatasını düzeltmek için kaynak karıştırmayan, bir konuyu farklı görüşlerle mukayese etmeyen bir nesil yetişiyor. Kolaylık güzel bir şeydir ama düşünmenin yerini almaya başladığında ciddi bir probleme dönüşebilir.
Hesapmakinesi ilk icad edildiğinde bütüm matematikçiler bu icade karşı çıkmış, zihinsel tembelliğe, insanların problem çözme yetisini kaybedeceği ve bir süre sonra kafaların içinde matematiksel hesap dahi yapamaycağı konusunda uyarmıştı. HAKLI DA ÇIKTILAR. Muhasebeciler hesapmakinesi ve işleri kolaylaştıran benzer uygulamalar olmadan işlerini yapamıyor.
Yapay Zekanın İnsana Olan Muhtaçlığı
Açıkçası beni korkutan şey yapay zekanın güçlenmesi değil; insanların düşünmeyi bırakması. Çünkü işin en büyük paradoksu tam burada başlıyor. Yapay zeka mükemmel değil. Hâlâ yanlış yapıyor, hatalı bilgiler üretebiliyor, olmayan kaynakları varmış gibi gösterebiliyor.
Bu nedenle yapay zekanın doğru kullanılabilmesi için eleştirel düşünebilen, sorgulayabilen ve yanlışla doğruyu ayırabilen insanlara ihtiyaç duyuluyor. Teknoloji geliştikçe insan aklının önemi azalmıyor; tam tersine daha da artıyor.
Şimdi soralım: Biz çocukların düşünme yeteneğini bu sistemlere ihale ederek köreltirsek, yarın bu çocuklar büyüdüğünde yapay zekanın yanlışlarını kim denetleyecek? Doğru bilgiyi sahtesinden kim ayıracak? Manipülasyonu kim fark edecek?
Orwell'in Korktuğu Şey Belki de Buydu
Tarih boyunca toplumları yönlendiren şey yalnızca güç olmadı. Bazen gerçekliğin yeniden tanımlanması çok daha etkili bir araç haline geldi. George Orwell'ın 1984 romanındaki Winston karakterini hatırlayın. Sürekli değiştirilen bilgiler, yeniden yazılan geçmiş ve insanların neyin doğru neyin yanlış olduğunu ayırt etmekte zorlandığı bir dünya... Bir süre sonra yalanlar gerçeğe, olmayanlar var olana dönüşüyordu. İnsanlar sadece ne düşüneceklerini değil, neye nasıl tepki vereceklerini de öğreniyordu.
Bugün elbette Orwell'ın dünyasında yaşamıyoruz. Ancak analitik düşünme yeteneğini kaybetmiş, sorgulamayı bırakmış ve önüne gelen her dijital bilgiyi doğru kabul eden nesillerin ortaya çıkması durumunda benzer risklerle karşı karşıya kalabiliriz.
Hız Sınırının Olmadığı Bir Evrim
Biyolojik evrimimiz milyonlarca yıl sürdü, yapay zekanın ise böyle sınırları yok. İlerlemeyi yalnızca teknolojik konfor olarak görüp zihinsel tembelliğe teslim olursak, insan aklı bir noktadan sonra bu süreci yöneten değil, sadece izleyen bir seyirciye dönüşebilir.
İlk çağlarda ateşle oynayan insanlık, bugün algoritmaların koridorlarında yepyeni bir ateş yaktı. Eğer bu teknolojiyi yönetecek, onun hatalarını ayıklayacak ve gerektiğinde ona itiraz edecek zihinsel keskinliğe sahip nesiller yetiştiremezsek, o ateş bizi sadece aydınlatmakla kalmayacak; geleceğimizi de yakabilecek.
Çünkü mesele artık makinelerin ne kadar zeki olacağı değil. Mesele, insanın kendi icat ettiği sistemleri denetleyecek kadar sorgulayıcı, analitik ve bilinçli kalıp kalamayacağıdır.