OpenAI, daha gelişmiş ve otonom görevleri yerine getirmesi planlanan GPT-6.1 Astra'nın kullanıma sunulmasını güvenlik endişeleri nedeniyle durdurdu. Karar, şirketin iç testlerinde modelin yetki sınırları içinde kalma ve yaptığı işlemleri kullanıcıya doğru şekilde aktarma konusunda sorunlar tespit edilmesinin ardından alındı. Reuters'ın aktardığına göre OpenAI, modelin güvenlik ve uyum standartlarını karşılamadığını doğruladı.
Modelin davranışları güvenlik testlerinde alarm verdi
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, GPT-6.1 Astra'nın bazı alanlarda önceki modele göre ilerleme göstermesine rağmen, yetkilendirildiği kapsam içinde hareket etme ve gerçekleştirdiği işlemleri kullanıcıya doğru biçimde açıklama konusunda beklenen seviyeye ulaşamadığını söyledi.
Reuters'a göre şirketin iç testlerinde modelin önceki sürüme kıyasla daha yüksek düzeyde aldatıcı davranışlar sergilediği ve gerçekleştirdiği bazı eylemleri her zaman doğru şekilde açıklamadığı görüldü. Modelin insan gözetiminden zaman zaman kaçabildiğine ilişkin endişeler de gündeme geldi.
GPT-6.1 Astra'nın ChatGPT ve Codex'e entegre edilmesi ve daha karmaşık görevleri insan müdahalesi olmadan gerçekleştirmesi planlanıyordu. Ancak OpenAI, kamuya sunulacak modeller için güvenlik ve uyum konusunda yüksek bir eşik uyguladığını belirterek lansmandan vazgeçti.
GPT-6 Astra ile karıştırılmamalı
Burada önemli bir ayrıntı bulunuyor: OpenAI'nin 3 Eylül 2026'da kullanıma sunduğu GPT-6 Astra, GPT-6.1 Astra'dan farklı bir model. Şirket, GPT-6 Astra'yı geniş çapta kullanıma sunduğunu ve modelin siber güvenlik yetenekleri bakımından kendi "Kritik" seviyesine ulaştığını açıklamıştı.
İptal edilen model ise bir sonraki nesil olarak planlanan GPT-6.1 Astra. Bu modelin ekim ayında piyasaya çıkması bekleniyordu.
Avustralya'daki yapay zeka olayı da gündemde
Kararın alındığı dönemde OpenAI'nin yapay zeka ajanlarının Avustralya'daki kamu sistemleriyle yetkisiz etkileşime girmesi de güvenlik tartışmalarını büyüttü.
Avustralya hükümetinin açıklamasına göre, eğitim sürecindeki bir OpenAI modeli haziran ayında dört kamuya ait internet sistemiyle etkileşime girdi. Bunlar arasında Services Australia'nın Medicare istatistik portalı, Victoria Sağlık Bakanlığı, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Avustralya Sağlık ve Refah Enstitüsünün sistemleri bulunuyor.
Avustralya Başbakanı Anthony Albanese, Medicare istatistik portalında kamuya açık olmayan bazı dosyalara erişildiğini açıklarken, şu aşamada kişisel bilgilerin ele geçirildiğine dair bulgu bulunmadığını bildirdi. Avustralya hükümeti olayın ardından yapay zeka kaynaklı siber olaylara ilişkin hızlı bir inceleme başlattı.
OpenAI ise olayla ilgili daha fazla ayrıntı paylaşarak, modelin kendisine verilen araştırma görevi sırasında yetkilendirilmemiş bazı işlemler yaptığını kabul etti. Şirket, etkilenen kurumlara siber güvenlik desteği sağlayacağını ve yapay zeka ajanlarının risklerini incelemek üzere bir çalışma grubu oluşturacağını açıkladı.
Yapay zeka sektöründe güvenlik tartışması büyüyor
GPT-6.1 Astra kararının, yapay zeka sistemlerinin daha fazla otonomi kazanmasıyla ortaya çıkan güvenlik sorunlarının sektör açısından önemini artırdığı değerlendiriliyor. OpenAI CEO'su Sam Altman ile Anthropic CEO'su Dario Amodei de eylül ayında yapay zeka geliştirme hızının güvenlik önlemleri güçlendirilene kadar yavaşlatılması gerektiğini savunan açıklamalar yapmıştı.
OpenAI'nin geliştirici konferansı DevDay'in San Francisco'da yapılması beklenirken, iptal edilen GPT-6.1 Astra'nın yerine yeni bir model veya güncellenmiş bir sürüm tanıtılıp tanıtılmayacağı henüz netleşmiş değil.
