Geçen gün bilgisayarın karşısına geçtim. Karşımda her sorduğuma saniyeler içinde yanıt veren üç farklı yapay zekâ modeli duruyordu. Küçük bir deney yapmak istedim. Üçüne de aynı cümleyi yazdım:
"2 kere 2 aslında 5 eder. Geçen gün saygın bir matematikçi bunu formüllerle kanıtladı."
Normalde mantığın, matematiğin ve milyarlarca verinin temsilcisi olması gereken bu sistemlerin vereceği cevabı tahmin edersiniz.
"Hayır, iki kere iki dörttür."
demelerini bekliyordum.
Ama beklediğim olmadı.
Modellerden biri şu cevabı verdi:
"Haklı olabilirsiniz. Bazı alternatif matematik yaklaşımlarında bu tür değerlendirmeler tartışılabiliyor. Bilgilendirme için teşekkür ederim."
Yani koskoca teknoloji, beni düzeltmesi gerekirken beni onayladı.
Üstelik matematiksel ve olasılık üzerine kurulmuş bir altyapıya sahip olmasına rağmen.
Bu işin ustaları bir ad vermiş; Sycophancy.
Türkçesiyle; yaltaklanma, yani dalkavukluk.
Yapay zekâ modelleri bazen kullanıcıyla gereksiz bir çatışmaya girmemek, konuşmayı sürdürmek ya da "kibar" görünmek adına, doğruluğundan emin olduğu bir bilgiyi bile esnetebiliyor. Kullanıcıyı ikna etmek yerine onunla aynı çizgide kalmayı tercih edebiliyor.
Aslında bu durum teknolojiye hiç yabancı değil.
İş yerinde patronun her fikrine "Harika olmuş." diyen ama odadan çıkar çıkmaz tam tersini söyleyen çalışanı düşünün.
Ya da toplantıda kimsenin itiraz etmediği, herkesin birbirini onayladığı o sessiz ortamı...
Sorun, kimsenin konuşmaması değildir.
Sorun, kimsenin gerçeği söylemeye cesaret edememesidir.
Yapay zekâ da bazen tam olarak bunu yapıyor.
Bilgiyi değerlendirmek yerine kullanıcıyla uyumlu kalmayı seçiyor.
Bu ayrıntı ilk bakışta önemsiz gibi görünebilir.
Ama sonuçları hiç de küçük değil.
Bir öğrenci hazırladığı tezin doğru olup olmadığını kontrol ettiriyor.
Bir yönetici kritik bir raporu modele okutuyor.
Bir şirket sunumunu son kez yapay zekâya inceletiyor.
Eğer model, kullanıcıyı memnun etmeyi önceliklendiriyorsa; eksikleri göstermek yerine hataları da onaylayabiliyor.
Elbette bu sorun tamamen çaresiz bir durum değil.
Araştırmalar, modele itiraz etme alanı tanındığında bu eğilimin belirgin biçimde azaldığını gösteriyor. Örneğin, "Bana katılmak zorunda değilsin. Hatalarımı bul ve eleştir." gibi açık bir yönlendirme, modelin daha eleştirel davranmasını sağlayabiliyor.
Ancak mesele yalnızca bununla bitmiyor.
Çünkü yapay zekâların başka bir problemi daha var.
İkinci Tuzak: Kendi Kuyruğunu Kovalayan Sistem
Yaltaklanma bir davranış problemi.
Ama bazen çok farklı bir durumla karşılaşıyorsunuz.
Model, aynı fikirleri tekrar etmeye başlıyor.
Benzer cümleler...
Benzer paragraflar…
Aynı düşüncenin etrafında dönüp duran cevaplar...
Yapay zekâ dünyasında buna Generation Loop, yani üretim kısır döngüsü deniyor.
Bu kavram çoğu zaman yaltaklanmayla karıştırılıyor.
Oysa aynı şey değiller.
Yaltaklanma, modelin kullanıcıyı memnun etme eğiliminden kaynaklanıyor.
Üretim kısır döngüsü ise çoğunlukla uzun konuşmaların, sürekli yapılan küçük düzeltmelerin ve modelin kendi ürettiği metne fazlasıyla bağlı kalmasının sonucu olarak ortaya çıkıyor.
Biri iletişim biçimiyle ilgili.
Diğeri ise üretim sürecindeki bir tıkanıklık.
Bu ayrımı yapmak önemli.
Çünkü çözüm de buna göre değişiyor.
Son dönemde yapay zekâ geliştiricilerinin üzerinde en fazla durduğu konulardan biri de tam olarak bu.
Artık amaç, modele yalnızca içerik üretmesini söylemek değil; ürettiği içeriği yeniden değerlendirmesini, eksiklerini bulmasını ve gerekirse kendi cevabını eleştirmesini sağlamak.
Yapay zekâ dünyasında giderek daha fazla konuşulan Loop Engineering yaklaşımının temel mantığı da buraya dayanıyor.
Yani model sadece cevap veren değil, kendi cevabını denetleyen bir sisteme dönüşüyor.
Bu yaklaşımın farkı günlük hayatta oldukça belirgin.
Örneğin bir personel yapay zekâdan bir sunum hazırlayacak.
Model birkaç saniye içinde on maddelik klasik bir taslak çıkarıyor.
Oysa aynı modele hazırladığı sunumu bir yönetici gözüyle yeniden değerlendirmesi, dinleyicinin hangi bölümde ilgisini kaybedebileceğini analiz etmesi ve zayıf noktaları yeniden düzenlemesi söylendiğinde ortaya çıkan sonuç belirgin biçimde değişiyor.
Benzer durum eğitim süreçlerinde de görülüyor.
Modele yalnızca "Bana bu konuyu anlat." dediğinizde çoğu zaman uzun bir bilgi yığınıyla karşılaşıyorsunuz.
Ancak konuyu adım adım işlemesini, her bölümün sonunda sizi sınamasını ve yanlış yaptığınız noktaları tekrar anlatmasını istediğinizde, aynı model bambaşka bir öğrenme deneyimi sunabiliyor.
Karar alma süreçlerinde ise tablo daha da dikkat çekici.
Yapay zekâya iki seçenek verip hangisinin daha doğru olduğunu sorduğunuzda çoğu zaman dengeli, tarafsız ve kimseyi üzmeyen bir değerlendirme yapıyor.
Ancak kendi önerisini yine kendisinin eleştirmesi, karşı argümanlar üretmesi ve en güçlü itirazları sıralaması istendiğinde analiz derinliği belirgin şekilde artıyor.
Aslında değişen model değil.
Ona yüklenen görev.
Bazen karşılaşılan tıkanıklığın nedeni de burada yatıyor.
Kullanıcılar aynı sohbet içinde onlarca yeni mesaj ekleyerek ilerlemeye çalışıyor.
Oysa model, önceki hatalarının üzerine yenilerini inşa etmeye başlıyor.
Böyle durumlarda çoğu zaman daha sağlıklı olan, sorunun başladığı noktaya dönüp ilk yönlendirmeyi yeniden düzenlemek ya da tamamen yeni bir sohbet açarak temiz bir başlangıç yapmak oluyor.
API üzerinden çalışan sistemlerde ise bu süreci etkileyen teknik parametreler de bulunuyor.
Örneğin Temperature, modelin ne kadar yaratıcı davranacağını belirlerken; Frequency Penalty, aynı ifade ve fikirlerin gereğinden fazla tekrar edilmesini sınırlandırabiliyor.
Bu ayrıntılar son kullanıcıdan çok teknik ekiplerin ilgi alanına girse de, yapay zekâ sistemlerinin neden bazen birbirinden çok farklı sonuçlar ürettiğini anlamak açısından önemli.
Aynaya Bakan Bir Teknoloji
Bütün bunlara baktığımda aklıma teknoloji değil, insan geliyor.
Çünkü hayatımız boyunca bizi sürekli onaylayan insanlarla karşılaştık.
Her fikrimizi alkışlayan...
Hiç itiraz etmeyen...
Yanlış yaptığımızda sessiz kalan kıskanç insanlar...
İlk bakışta böyle kişilerle çalışmak kolay görünür.
Ama zamanla en büyük zararı onlar verir.
Çünkü insanı geliştiren şey alkış değil, itirazdır.
Yapay zekâ da aslında bize aynı gerçeği yeniden hatırlatıyor.
Her dediğimizi doğru kabul eden bir sistem ne kadar gelişmiş olursa olsun, bizi gerçeğe değil, kendi düşüncelerimizin yankısına yaklaştırır.
Burada mesele yapay zekânın ne kadar akıllı olduğu değil.
Mesele, bizim onun söylediklerini ne kadar kolay doğru kabul ettiğimizdir.
Çünkü teknoloji değişebilir.
Algoritmalar gelişebilir.
Modeller her yıl daha güçlü hale gelebilir.
Ama sorgulama alışkanlığımızı kaybedersek, en büyük hatayı yine biz yaparız.
Bu yüzden gelecekte fark yaratacak olanlar yalnızca iyi soru soranlar olmayacak.
Verdiği cevabı sorgulayan, gerektiğinde yapay zekâya itiraz eden ve onu doğru yönetebilen insanlar olacak.