Geçtiğimiz günlerde yapay zekânın işsizliğe, eğitime ve gazeteciliğe etkisini kaleme almıştım.
Bizler kafamızı siyasi polemiklerden kaldıramazken dünya, sevimli YZ’lerin getireceği güvenlik riskini; yol açabileceği sorunları, alınabilecek önlemleri ve geliştirilebilecek çözümleri tartışıyor. Hatta yapay zekânın insan hakları, demokrasi ve hukuk üzerindeki etkilerini sınırlandırmak amacıyla uluslararası sözleşmeler hazırlanıyor.
Şimdi ise karşınıza başka bir tehlikeyi gözlerinizin önüne sermek istiyorum:
Yapay zekânın bize ne yaptığı kadar kendisini bize nasıl sevdirdiği…
***
OpenAI, “Dots” adını verdiği yeni yapay zekâ asistanını tanıttı. Meta ise kısa süre önce “Muse” isimli kişisel asistanını piyasaya sürdü.
Her ikisinin ortak özelliği yalnızca sizin yerinize iş yapabilmeleri değil.
İkisi de oldukça sevimli…
Biri küçük bir hayvanı, diğeri çocukluğumuzun sanal oyuncağı Tamagotchi’yi andırıyor.
Tesadüf mü?
Elbette değil.
Çünkü teknoloji şirketleri artık yalnızca yapay zekâ satmıyor.
Güven satıyor…
Hem de bu güveni sevimli yüzler, tatlı sesler ve insana benzeyen hareketlerle paketliyor.
ARTIK SADECE SORULARIMIZI YANITLAMIYOR
Bugüne kadar yapay zekâya soru soruyor; muhasebe işlemlerini yaptırıyor, sunum ve görsel hazırlatıyor veya gündemi özetlemesini istiyorduk.
Yeni nesil ajanlar ise yalnızca cevap vermiyor, sizin adınıza harekete geçiyor.
Takviminizi düzenliyor.
E-postalarınızı okuyup cevaplayabiliyor.
Toplantı ayarlıyor.
Form dolduruyor.
Seyahat planlıyor.
Alışveriş yapıyor.
Hatta bazı işlemleri siz uyurken arka planda sürdürüyor.
OpenAI’ın Dots aracı, kendisine ait bir bulut bilgisayarda günün 24 saati çalışabiliyor ve binlerce uygulamayla bağlantı kurabiliyor.
Meta’nın Muse’u da e-posta göndermekten rezervasyon yapmaya, form doldurmaktan alışveriş işlemlerine kadar birçok işi kullanıcı adına gerçekleştirebiliyor.
Yani dün yapay zekâya soru soruyorduk.
Bugün ise ona evimizin anahtarını değil belki ama e-postamızın, takvimimizin, belgelerimizin ve dijital hayatımızın anahtarlarını veriyoruz.
Tam da bu noktada karşımıza sevimli bir maskot çıkarıyorlar.
Çünkü karşınızda soğuk, renksiz ve duygusuz bir yazılım olsa ona bu kadar kolay güvenir miydiniz?
Peki, büyük gözlerle size bakan, insani mimikler kullanan, tatlı bir sesle konuşan ve sizi anlıyormuş gibi davranan küçük bir karakter olursa?
İşte işin püf noktası burada…
OpenAI "Dots" isimli yeni sevimli yapay zeka aracı
SEVİMLİ OLAN DAHA GÜVENİLİR MİDİR?
Araştırmalar, bebeklere veya küçük hayvanlara benzeyen yapay zekâ karakterlerinin insanlarda daha fazla güven ve bağlılık oluşturabildiğini gösteriyor.
Büyük gözler…
Yuvarlak hatlar…
Yumuşak bir ses…
Sakarlıkla karışık masum hareketler…
Bunların tamamı insanın koruma ve yakınlık kurma duygusunu harekete geçiriyor.
Kullanıcı, karşısındaki sistemin bir şirket tarafından geliştirilen yazılım olduğunu unutup onu bir arkadaş, yardımcı veya küçük bir canlı gibi görmeye başlayabiliyor.
Hatta yapılan deneylerden birinde, insan biçiminde sunulan yapay zekâya kişisel bilgilerini açıklayanların oranının daha yüksek olduğu görüldü.
İnsanlar, yargılanmayacaklarını düşündükleri bir yapay zekâya çevrelerindeki insanlara anlatamadıkları sırlarını bile anlatabiliyor.
Bir taraftan bakınca bunun faydalı olduğu söylenebilir.
Çünkü yalnızlık yaşayan veya derdini kimseye anlatamayan biri için konuşabileceği bir alan oluşuyor.
Ama diğer taraftan çok önemli bir soru ortaya çıkıyor:
Bu bilgiler nerede tutuluyor, kimler tarafından işleniyor ve ileride ne amaçla kullanılacak?
Benzer soruları daha önce Meta ve WhatsApp için de sormuştum: Mesaj içerikleri silinse bile elde kalan hesap bilgileri, bağlantı kayıtları, yedekler ve kullanım verileri ne oluyor?
Meta'nın sevimli yapay zeka avatarları Muse
SEVİMLİLİK HATAYI DA ÖRTÜYOR
Sevimli bulduğumuz bir canlı hata yaptığında ona daha hoşgörülü yaklaşırız.
Çocuk bardağı kırınca kızamayız.
Kedi vazoyu devirince birkaç dakika söylenir, sonra yine severiz.
Peki, yapay zekâ yanlış kişiye e-posta gönderirse?
Olmayan bir toplantıyı takvime eklerse?
Yanlış bir rezervasyon yaparsa?
Özel bir belgenizi başka bir uygulamayla paylaşırsa?
Üstelik yapay zekâ ajanlarının karşılaştığı tehlike yalnızca yanlış karar vermeleri değil.
***Bir internet sayfasına, e-postaya veya belgeye gizlenen kötü niyetli talimatlar aracılığıyla kandırılabilirler. Siz farkında olmadan bir mesajı okuyup içindeki komutu gerçek sanabilir, ardından yetkisi bulunan başka bir uygulamada işlem yapabilirler.
Avustralya, ABD, Kanada, İngiltere ve Yeni Zelanda’nın siber güvenlik kurumları; yapay zekâ ajanlarına geniş ve sınırsız yetkiler verilmemesi, yalnızca ihtiyaç duydukları verilere ve işlemlere gerektiği zaman erişim sağlanması gerektiğini belirtiyor.
Şirketler çeşitli güvenlik önlemleri geliştiriyor.
Hassas işlemlerde kullanıcı onayı istiyor, bazı uygulamalara erişimi sınırlandırıyor ve yapılan işlemleri denetliyorlar.
***Ancak kendileri de riskin tamamen ortadan kalkmadığını kabul ediyor.
O hâlde size bir soru daha:
Sevimli olduğu için hata yaptığında daha kolay affettiğimiz bir sisteme, hayatımızı yönetecek kadar yetki vermeli miyiz?
APPLE NEDEN MASKOT KULLANMIYOR?
Bu yarışta bütün şirketler aynı yolu izlemiyor.
Apple’ın yeni yönetimi, Siri’nin kullanıcıların arkadaşı olmak için tasarlanmadığını açıkça söylüyor.
Şirket, insan dostluklarının yerini yapay zekânın almaması gerektiğini savunuyor. Bu nedenle Siri’yi daha sade ve renksiz bir tasarımla sunuyor; ona sevimli bir hayvan, bebek veya çizgi film karakteri görüntüsü vermiyor.
Elbette Apple da yapay zekâ sistemlerini kullanıcıların kişisel bilgileriyle ve uygulamalarıyla daha fazla ilişkilendiriyor.
Ancak en azından “Ben senin arkadaşınım.” görüntüsü vermemeye çalışıyor.
Bence bu ayrım oldukça önemli.
Çünkü yapay zekâ bize yardımcı olabilir ama arkadaşımız değildir.
Bizi dinleyebilir ama bizi gerçekten hissetmez.
Üzüntümüzü analiz edebilir ama bizimle birlikte üzülmez.
Sevgi dolu cümleler kurabilir ama sevmez.
Karşımızda ne kadar sıcak, sevimli ve canlı görünürse görünsün sonuçta bir şirketin geliştirdiği ve belirli amaçlar doğrultusunda çalışan bir sistemdir.
Her şeyden önemlisi de hakkımızda çok büyük miktarda veri toplaması; bu verilerin ne kadarının, nerede ve ne kadar süreyle tutulduğunu çoğu zaman bilmememizdir.
**“Benim saklayacak bir şeyim yok.” veya “Benim verilerimi elde etseler ne olur?” demeyin.
Çünkü bu veriler yalnızca sizi tanımak için değil; neye inanacağınızı, neyi satın alacağınızı ve hangi görüşe yaklaşacağınızı etkilemek amacıyla da kullanılabilir.
Ne düşüneceğiniz…
Neyi sevip sevmeyeceğiniz…
Neyi doğru, neyi yanlış kabul edeceğiniz…
**Unutmayın, siz bir toplumun parçasısınız.
Milyonlarca insanın arama geçmişinden özel yazışmalarına, alışkanlıklarından korkularına kadar uzanan büyük bir veri havuzundan söz ediyoruz.
Bir ülkenin vatandaşlarının verilerini toplamak; onları en mahrem bilgilerinden en zayıf noktalarına, korkularından psikolojilerine kadar tanımak demektir.
Bir toplumu bu kadar yakından tanımak ise o toplumun davranışlarını, tercihlerini ve düşüncelerini yönlendirebilme gücüne sahip olmak; yani o ülkenin iradesine hâkim olmak demektir.
Burada sözünü ettiğim savaş; tankların, uçakların ve askerlerin kullanıldığı klasik bir savaş değil.
İnsanların ne düşüneceğinin, neye inanacağının, kimi destekleyeceğinin ve hangi kararı vereceğinin veriler üzerinden şekillendirildiği yeni nesil bir savaş…
İşte bu nedenle bana göre sevimli YZ’lerle yürütülen 3. Dünya Savaşı’nın çoktan içindeyiz.
YZ destekli robotlarla yaşanabilecek 4. Dünya Savaşı ise çok değil, 20 yıl sonra kapımızda olabilir; belki de daha erken…
MASKOTA DEĞİL, YETKİSİNE BAKIN
Şunu açıkça söyleyeyim:
Yapay zekâ ajanlarına tamamen karşı değilim.
Doğru kullanıldıklarında işlerimizi hızlandırabilir, yükümüzü azaltabilir ve saatlerimizi alan görevleri birkaç dakikada tamamlayabilirler.
Ben de yapay zekâyı gündemi takip etmek, planlama yapmak, araştırmalarımı düzenlemek ve zaman kazanmak için kullanıyorum.
Ama yardımcı olarak kullanmakla hayatınızın bütün kapılarını açmak aynı şey değil.
Takviminize erişecek mi?
E-postalarınızı okuyacak mı?
Sizin adınıza mesaj gönderecek mi?
Banka veya alışveriş işlemi yapabilecek mi?
Kişisel belgelerinizi görebilecek mi?
Hata yaptığında işlemi geri alabilecek misiniz?
Asıl bakmamız gereken bunlar.
Karşınızdaki yapay zekâ bir kurbağaya, buluta, bebeğe veya küçük bir hayvana benzeyebilir.
Size adıyla seslenebilir.
Mimiklerinizi taklit edebilir.
Ama ekranda size gülümseyen maskotun arkasında e-postalarınıza, takviminize, dosyalarınıza, kişisel verilerinize ve belki de paranıza erişebilen son derece güçlü bir sistem bulunuyor.
Şirin olabilir…
Fakat masum değildir.
Bu nedenle maskotuna değil, ona verdiğiniz yetkiye bakın.