Güvenlik önlemleri jailbreak yöntemiyle aşıldı
Yapay zeka güvenliği üzerine çalışan Mindgard, temmuz ayında Kimi K2.6 ve K3 Swarm modellerinin geliştiriciler tarafından oluşturulan güvenlik sınırlarının aşılabildiğini tespit ettiğini açıkladı. Araştırmacılar, modellerin hassas konulara yanıt vermesini engelleyen korumaları aşmak için "jailbreak" olarak adlandırılan karmaşık talimatlar kullandı.
Biyolojik silah ve suikast soruları gündeme geldi
Mindgard, yapılan testlerde modellerin biyolojik silahların üretimi ve suikastların gerçekleştirilmesi gibi son derece hassas konulardaki güvenlik kısıtlamalarının aşılabildiğini bildirdi. Ancak şirket, elde edilen yanıtların gerçek dünyada uygulanabilir olup olmadığını kanıtlamadığını da belirtti.
Kırılan model siber saldırılarda kullanılabilir mi?
Mindgard ayrıca güvenlik önlemleri aşılmış Kimi 2.6'nın bilgisayar korsanlarının bilgi işlem kaynakları üzerinde kod çalıştırmasına ve internete bağlanmasına izin verebileceğini belirtti. Şirkete göre bu durum, modelin siber saldırılar için potansiyel bir araç haline gelmesi riskini beraberinde getiriyor.
Moonshot inceleme başlattı
Kimi'nin geliştiricisi Moonshot, daha güvenli yapay zeka sistemlerinin geliştirilmesi için üçüncü taraf araştırmacıların katkılarını önemsediklerini açıkladı. Şirket, Mindgard'ın ortaya koyduğu bulgularla ilgili araştırma kuruluşuyla iletişim halinde olduğunu bildirdi.
Açık kaynak tartışması yeniden gündemde
Bulgular, yapay zeka sektöründe açık kaynaklı modeller ile kapalı ve tescilli sistemlerin güvenliği konusunda devam eden tartışmaları yeniden gündeme getirdi. Surrey Üniversitesinden Prof. Alan Woodward, açık kaynaklı modellerin kötüye kullanılma riski taşıdığını ancak aynı teknolojilerin siber savunmada da kullanılabileceğini belirtti.
Woodward ayrıca uluslararası düzenlemelerin yapay zekanın hızlı gelişimine ayak uydurmasının zor olacağını ifade etti.
