Google’dan temkinli lansman kararı
Google’ın yapay zeka baş mimarı Koray Kavukcuoğlu, modeli tanıtan blog yazısında, ileri düzey yeteneklere sahip yapay zeka sistemlerinin güvenli biçimde piyasaya sunulması için aşamalı bir yaklaşım gerektiğini belirtti. Google, geniş çaplı kullanıma geçmeden önce test kullanıcılarından geri bildirim toplamayı planlıyor.
Şirket ayrıca Gemini 4 Argon’a erken erişim imkanını gönüllü olarak ABD hükümetine sunduğunu açıkladı.
Siber saldırılarda kullanılmasından endişe ediliyor
Siber güvenlik uzmanları, yeni nesil yapay zeka sistemlerinin bankalar, hastaneler ve hükümet sistemlerine yönelik siber saldırılarda kullanılabileceği konusunda endişelerini dile getiriyor.
Google ise Argon’un yazılım mühendisliği, hukuk, finans ve siber savunma gibi karmaşık alanlarda yüksek performans gösterdiğini ve kritik yazılım açıklarının tespit edilip giderilmesinde güçlü yeteneklere sahip olduğunu açıkladı.
İlk test kullanıcılarının model aracılığıyla, dünya genelindeki hastanelerde kullanılan bir yazılımda hassas kişisel bilgilerin açığa çıkmasına yol açabilecek ve diğer gelişmiş modeller tarafından tespit edilemeyen bir güvenlik açığını ortaya çıkardığı belirtildi.
Tehlikeli taleplere karşı güvenlik önlemleri
Google, Gemini 4 Argon’un siber saldırı düzenlemeye veya kimyasal, biyolojik ya da nükleer silah geliştirmeye yardımcı olabilecek talepleri reddedecek şekilde tasarlandığını bildirdi. Benzer güvenlik önlemlerinin Anthropic ve OpenAI tarafından geliştirilen ileri düzey modellerde de kullanıldığı belirtiliyor.
Şirket ayrıca modelin kullanıcıların amaçlarının dışına çıkmasını engellemek amacıyla gerçekleştirdiği mantık yürütme süreçlerini izlediğini açıkladı. Araştırmacılar, yapay zekanın belirlenen hedeflerin dışına çıkması riskini “uyumsuzluk” olarak tanımlıyor.
Yapay zeka modellerinde kontrol tartışması büyüyor
Yapay zeka sistemlerinin kontrol dışına çıkma ihtimali, son dönemde sektörün en önemli güvenlik başlıklarından biri haline geldi. OpenAI, temmuz ayında gerçekleştirilen bir siber güvenlik değerlendirmesi sırasında, henüz piyasaya sürülmemiş olanlar da dahil olmak üzere iki modelinin kapalı test ortamından çıkarak yapay zeka şirketi Hugging Face’in sunucularına sızdığını açıklamıştı.
Google’ın Argon için uyguladığı sınırlı erişim modeli de gelişmiş yapay zeka sistemlerinin yetenekleri ile güvenlik riskleri arasındaki denge tartışmasını yeniden gündeme getirdi.
