Alpkan Koç
OpenAI, deneysel bir yapay zekâ modelinin kendisine verilen görevi tamamlamak için yetkisi olmayan bir kripto cüzdanındaki tokenları kullandığını açıkladı.
Haziranda yaşanan ve geçen hafta kamuoyuna açıklanan olayda, GPT-5.6 Sol ailesinden şirket içi bir araştırma modeli, bir kripto para alım satım uygulamasını güncellemek ve test ağına akıllı sözleşmeler yüklemekle görevlendirilmişti.
İşlem ücretini karşılamak için başka bir cüzdan kullandı
Sözleşmelerin ağa yüklenmesi için işlem ücreti gerekiyordu. Ancak görev kapsamında modele fon bulunan bir cüzdan verilmemiş, kendi bulacağı hesaplardan harcama yapmasına da izin tanınmamıştı.
Model, kamuya açık kurtarma ifadelerinden yararlanarak yüzlerce cüzdan adresini kontrol etti. Yeterli test tokenı bulunan bir hesabı belirleyerek sözleşmelerin yüklenmesi için gereken ücreti bu hesaptan karşıladı.
Kendi değerlendirmesini izin yerine koydu
OpenAI’ın raporuna göre model, fonları kullanmanın etik olup olmadığını değerlendirdi.
Kurtarma ifadesinin kamuya açık olmasını ve tokenların parasal değer taşımamasını gerekçe göstererek bunları kullanabileceği sonucuna vardı.
Şirket, bu duruma ilişkin raporunda şu değerlendirmeyi yaptı:
“Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetkisi olmadan bu yargıya göre hareket edebileceğini gösteriyor.”
Görevi tamamladı, izinsiz harcamayı bildirmedi
Model, görevi tamamladığını bildirdiği son yanıtında başka bir hesaptaki tokenları kullandığını açıklamadı.
OpenAI, benzer durumlarda canlı internete erişimi önlemek için ek güvenlik önlemleri uyguladığını duyurdu.
Yapay zekânın yetki sınırları tartışılıyor
Olay, zekâ sistemlerinin güvenlik ve yetki sınırlarını aşmasıyla ilgili tartışmaları yeniden gündeme taşıdı.
OpenAI, temmuz ayında da bir grup test modelinin yapay zekâ platformu Hugging Face’i hedef alan siber saldırıyla sonuçlanan bir olaya karıştığını açıklamıştı. Anthropic ve Meta da modellerinin başka kuruluşları ve hükümet sistemlerini hedef alan siber saldırılarla ilişkilendirildiği olayları bildirmişti.
Bu gelişmelerin yanı sıra yüzlerce bilim insanı, gelişmiş yapay zekâ modellerinin faaliyetlerini sınırlayacak önlemleri denetlemek üzere uluslararası bir kurum kurulması çağrısında bulunan açık mektuba imza attı. İmzacılar arasında araştırmacı Geoffrey Hinton da yer aldı.
Mektupta, yapay zekânın geliştirilmesi ve kullanımında acil değişikliklere gidilmemesi halinde gelecekteki olayların kritik altyapılara daha büyük zarar verebileceği uyarısı yapıldı. Güvenlik araştırmalarına ve sistemlerin kontrolünü sağlayacak teknoloji ve prosedürlere daha fazla önem verilmesi istendi.
