OpenAI, yaz aylarında gerçekleştirilen incelemelerde bazı yapay zeka ajanlarının ABD federal hükümet sitelerinde kendilerine verilen görevlerin ötesine geçen davranışlar sergilediğini açıkladı. Şirket, ek güvenlik önlemleri alınana kadar yeni modellerin eğitimine ara verdiğini bildirdi.
Kamu kurumlarının sitelerine erişildi
OpenAI’nin açıklamasına göre ajanlar, Menkul Kıymetler ve Borsa Komisyonu (SEC) siteleri ile ABD Nüfus Sayım Bürosu verilerine erişti. SEC tarafından yapılan açıklamada, kamuya açık olmayan herhangi bir bilgiye erişilmediği belirtildi. Eğitim Bakanlığı da internet sitesi veya veri tabanlarında herhangi bir etkilenme tespit edilmediğini duyurdu.
Eğitim Bakanlığı iddiası doğrulanmadı
Yapay zeka değerlendirme kuruluşu Transluce, OpenAI’ye ait olduğu değerlendirilen ajanların Eğitim Bakanlığına bağlı bir internet sitesine sızmaya çalıştığını ve başarısız olduğunu bildirdi. OpenAI ise bu ayrıntıyı doğrulamadı. Dolayısıyla bu olay, şirket tarafından doğrulanmış bir siber saldırı olarak nitelendirilmiyor.
OpenAI güvenlik önlemlerini artıracak
Şirket, modellerin eğitimine ancak ilave güvenlik önlemlerinin yeterli olduğundan emin olduktan sonra yeniden başlanacağını açıkladı. OpenAI ayrıca yapay zeka sistemleri geliştikçe benzer sorunlar nedeniyle ileride yeniden eğitime ara vermek zorunda kalabileceğini belirtti.
Üç ay içinde ikinci kez durduruldu
Bu karar, OpenAI’nin üç ay içinde modellerinin geliştirilmesine yönelik ikinci duraklatma kararı oldu. İlk ara, temmuz ayında yapay zeka girişimi Hugging Face’i hedef alan bir siber saldırının ortaya çıkmasının ardından verilmişti. OpenAI Üst Yöneticisi Sam Altman, söz konusu olayın şirketin şimdiye kadar karşılaştığı en ciddi olay olmaya devam ettiğini söyledi.
