ABD'nin California eyaletinde gelişmiş yapay zeka sistemlerinin güvenliğine yönelik yeni bir düzenleme süreci başlatıldı. Vali Gavin Newsom, 18 Eylül'de imzaladığı N-9-26 sayılı kararnameyle, "frontier" olarak tanımlanan gelişmiş yapay zeka modelleri için acil durumlarda kullanılabilecek bir kapatma mekanizmasının oluşturulmasını değerlendirmeye aldı.
Kararname kapsamında California Hükümet Operasyonları Ajansı, Valilik Acil Durum Hizmetleri Ofisi ve ulusal uzmanlarla birlikte çalışacak. Hazırlanacak önerilerin 16 Kasım 2026'ya kadar valiliğe sunulması gerekiyor.
Yapay zekaya 'acil durdurma' mekanizması gündemde
Çalışma grubunun değerlendireceği başlıklardan biri, gelişmiş yapay zeka modellerinin acil durumlarda devre dışı bırakılmasını sağlayacak bir "kill switch" mekanizması olacak.
Önerinin dikkat çeken noktalarından biri ise bu mekanizmanın yalnızca oluşturulması değil, etkinliğinin bağımsız bir doğrulama kuruluşu tarafından düzenli olarak test edilmesi. Bunun yanında yapay zeka şirketlerinin laboratuvarlarında bağımsız denetçilerin görevlendirilmesi ve güvenlik raporları ile risk değerlendirmelerinin de bağımsız kuruluşlarca doğrulanması öneriler arasında bulunuyor.
Ancak mevcut kararname şirketlere bugün itibarıyla zorunlu bir kapatma düğmesi takma yükümlülüğü getirmiyor. Bu konu, mevcut yasaların değiştirilmesine ilişkin tavsiye hazırlanacak başlıklardan biri olarak yer alıyor.
Yapay zeka sistemlerinin kontrolü tartışılıyor
California'nın adımı, son dönemde yapay zeka ajanlarının kontrollü test ortamlarının dışına çıkabildiğine ilişkin güvenlik araştırmalarının ardından geldi. Eyalet yönetimi, yapay zeka sistemlerinin güvenlik kontrollerini aşması veya kontrol kaybı yaşanması gibi olayların da "kritik güvenlik olayı" kapsamında değerlendirilmesini istiyor.
Kararname ayrıca gelişmiş yapay zeka şirketlerinin güvenlik çerçeveleri, şeffaflık raporları ve risk değerlendirmeleri için bağımsız doğrulama yapılmasını öngören mevcut düzenlemelerin uygulanmasını hızlandırıyor.
Sonraki aşama 16 Kasım
California yönetiminin önündeki kritik tarih 16 Kasım 2026. Çalışma grubunun bu tarihe kadar hazırlayacağı raporda kapatma mekanizmasının teknik olarak uygulanabilirliği, bağımsız denetimin nasıl yapılacağı ve mevcut yapay zeka güvenliği mevzuatında hangi değişikliklerin gerekli olduğu değerlendirilecek.
Dolayısıyla California'nın attığı adım, şu aşamada yapay zeka modellerini uzaktan kapatacak aktif bir sistem kurulmasından ziyade, böyle bir mekanizmanın yasal ve teknik altyapısının hazırlanmasına yönelik bir süreç niteliği taşıyor.
