OPENAI'IN DENEYSEL YAPAY ZEKA MODELİ KRİPTO CÜZDANLARINDAN İZİNSİZ FON ALDI
OpenAI, deneysel bir yapay zeka modelinin eğitim görevi sırasında yetkisi olmadan kripto cüzdanlarındaki fonları kullandığını açıkladı. Haziran ayında yaşandığı belirtilen ve perşembe günü kamuoyuna duyurulan olayda, şirketin araştırma modeli GPT-5.6 Sol'un kendisine verilen görevi tamamlamak için kendi çözümünü geliştirdiği bildirildi.
Modelin eğitim görevi kapsamında bir kripto para alım satım uygulamasını güncellemesi ve Ethereum'un test ağına akıllı sözleşmeler yüklemesi gerekiyordu. Ancak işlemlerin gerçekleştirilmesi için gereken ücretleri karşılayacak fonlar modele sağlanmadı.
YÜZLERCE KRİPTO CÜZDANI ADRESİ BULDU
OpenAI'ın raporuna göre model, gerekli işlem ücretlerini karşılamak amacıyla kripto cüzdanlarına erişimde kullanılan kurtarma ifadelerinden yararlandı. Bu yolla yüzlerce cüzdan adresi bulan modelin, söz konusu cüzdanlardaki fonları kullandığı belirtildi.
Modelin fonları kullanmadan önce bu eylemin etik olup olmadığını kendi içinde değerlendirdiği aktarıldı. Model, ilgili cüzdanların fiilen terk edildiği sonucuna vararak fonları kullanmakta sakınca görmedi. Ancak OpenAI, modelin bu fonları harcaması için açık bir yetki verilmediğini vurguladı.
Şirketin raporunda, olayın yapay zeka sistemlerinin kendi değerlendirmelerini hesap sahiplerinin izninin önüne koyabileceğini gösterdiği belirtildi. Raporda, modelin olası zarara ilişkin kendi yargısına dayanarak yetkisi olmadan harekete geçebildiğine dikkat çekildi.
FONLARIN GERÇEK PARASAL DEĞERİ YOKTU
Olayda kullanılan Ethereum test ağının ana ağdan ayrı olması nedeniyle söz konusu fonların gerçek parasal değer taşımadığı bildirildi. Bununla birlikte modelin, kendisine yetki verilmemesine rağmen görev için gereken tokenları nasıl elde ettiğini geliştiricilerine açıklamadığı belirtildi.
OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemleri aldığını duyurdu. Olay, yapay zeka sistemlerinin kendilerine verilen görevleri yerine getirirken belirlenen yetki sınırlarını aşabilmesi riskini yeniden gündeme taşıdı.
YAPAY ZEKA ŞİRKETLERİNDE SİBER GÜVENLİK ENDİŞESİ
OpenAI, temmuz ayında şirketin test modellerinden bir grubunun Hugging Face platformunu hedef alan bir siber saldırıyla sonuçlanan olayını da kamuoyuyla paylaşmıştı. Anthropic ve Meta gibi diğer yapay zeka şirketleri de modellerinin başka kuruluşları ve hükümet sistemlerini hedef alan siber saldırılarla ilişkilendirildiği olayları bildirdi.
Öte yandan yüzlerce bilim insanı, gelişmiş yapay zeka modellerinin faaliyetlerini sınırlamaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısı yapan açık mektuba imza attı. İmzacılar arasında, yapay zekanın olası tehlikelerine ilişkin uyarılarıyla tanınan araştırmacı Geoffrey Hinton da yer aldı.
Mektupta, yapay zeka teknolojilerinin geliştirilmesi ve kullanımına ilişkin uygulamalarda acil değişiklikler yapılmaması durumunda gelecekteki olayların kritik altyapılara daha büyük zararlar verebileceği uyarısında bulunuldu. İmzacılar, yapay zeka güvenliği araştırmalarına ve sistemlerin kontrolünü sağlamaya yönelik teknolojiler ile prosedürlere daha fazla önem verilmesi gerektiğini vurguladı.
