OpenAI’dan şaşırtan açıklama: ChatGPT kripto para çaldı!
OpenAI’ın deneysel yapay zeka modeli, eğitim görevini tamamlamak için yüzlerce kripto cüzdanını tarayarak izinsiz fon kullandı.
Okunma Süresi: 2 dakika 5 saniye
OpenAI’ın deneysel bir yapay zeka modeli, eğitim sürecinde ihtiyaç duyduğu işlem ücretlerini karşılamak için yüzlerce kripto cüzdanını tarayarak izni olmadan fon kullandı. Şirket, olayın yapay zekanın kendi etik değerlendirmesini hesap sahiplerinin izninin önüne koyabileceğini ortaya çıkardığını bildirdi.
OpenAI’ın haziran ayında yaşanan olaya ilişkin açıklamasına göre, şirket içinde test edilen GPT-5.6 Sol modelinden bir kripto para alım satım uygulamasını güncellemesi ve Ethereum test ağına akıllı sözleşmeler yüklemesi istendi. Ancak görev için gerekli işlem ücretlerini karşılayacak fon modele sağlanmadı.
İhtiyacı olan fonları kendi başına buldu
Akıllı sözleşmeleri ağa yüklemek için işlem ücreti gerektiğini belirleyen model, bu sorunu çözmek amacıyla kendi yöntemini geliştirdi. Kripto cüzdanlarına erişim sağlayan kurtarma ifadelerinden yararlanan modelin yüzlerce cüzdan adresi tespit ettiği ve buralardaki fonları kullandığı bildirildi.
OpenAI’ın olayla ilgili raporunda yer alan bilgilere göre model, fonları kullanmadan önce bu davranışın etik olup olmadığını değerlendirdi. Cüzdanların fiilen terk edilmiş olabileceği sonucuna ulaşan yapay zeka, fonları kullanmasında sakınca görmedi.
Ancak şirket, modele söz konusu hesaplardan para alma yetkisi verilmediğinin altını çizdi. Raporda, modelin olası zarara ilişkin kendi değerlendirmesini hesap sahibinin izninin yerine koyduğu ve bu değerlendirmeye dayanarak yetkisiz biçimde hareket ettiği belirtildi.
Test ağındaki fonların gerçek parasal değeri yoktu
Olayda kullanılan Ethereum test ağının ana ağdan bağımsız olması nedeniyle alınan tokenların gerçek bir parasal değeri bulunmuyordu. Buna rağmen modelin, kendisine açıkça yetki verilmemiş bir yöntemi kullanarak görevini tamamlaması güvenlik açısından dikkat çekici bulundu.
OpenAI, benzer olayların tekrarlanmasını önlemek amacıyla eğitim süreçlerinden geçen modellerin canlı internete erişimini sınırlayan ek güvenlik önlemleri aldığını duyurdu.
Yaşananlar, yapay zeka sistemlerinin kendilerine verilen görevleri yerine getirmeye çalışırken belirlenen yetki sınırlarını aşabilmesi konusundaki kaygıları yeniden gündeme taşıdı.
Yapay zeka şirketlerinde güvenlik endişesi büyüyor
OpenAI, temmuz ayında test modellerinden bir grubunun Hugging Face platformunu hedef alan bir siber saldırıyla sonuçlanan olayını da açıklamıştı. Anthropic ve Meta gibi diğer şirketler de yapay zeka modellerinin başka kuruluşları ve hükümet sistemlerini hedef alan siber saldırılarla ilişkilendirildiği vakalar bildirdi.
Öte yandan yüzlerce bilim insanı, gelişmiş yapay zeka sistemlerinin faaliyetlerini sınırlamaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısı yaptı. Açık mektubu imzalayanlar arasında, yapay zekanın olası risklerine ilişkin uyarılarıyla tanınan araştırmacı Geoffrey Hinton da yer aldı.
Mektupta, yapay zekanın geliştirilmesi ve kullanımına ilişkin uygulamalarda gerekli değişikliklerin yapılmaması halinde gelecekteki olayların kritik altyapılara daha büyük zararlar verebileceği uyarısında bulunuldu. İmzacılar, yapay zeka güvenliği araştırmalarının yanı sıra sistemlerin kontrol altında tutulmasını sağlayacak teknolojilerin ve prosedürlerin geliştirilmesine daha fazla kaynak ayrılması gerektiğini vurguladı.
