Claude yapay zekâ modelinin geliştiricisi Anthropic'in bazı kurum içi sistemlerine, ABD merkezli yapay zekâ girişimi Cathedral tarafından erişildiği öne sürüldü. The Washington Post'un haberine konu olan olayda Slack mesajları, toplantı dökümleri, personel maaşları ve iş teklifleri gibi şirket içi bilgilerin açığa çıktığı bildirildi. Anthropic, erişimin sınırlı sayıdaki kurumsal sistemi etkilediğini, Claude kullanıcılarının görüşmelerine ve modelin kaynak koduna ulaşılamadığını açıkladı.
ABD Hükümet Verimliliği Bakanlığının eski çalışanları tarafından kurulan Cathedral'ın, güvenlik açıklarının bulunmasını teşvik eden bir hata ödül programı kapsamında sisteme eriştiği belirtildi. Olay, yapay zekâ sektörünün önde gelen şirketlerinden birinin bile kurumsal sistemler ve üçüncü taraf yazılımlar üzerinden güvenlik riskiyle karşılaşabileceğini gösterdi.
ANTHROPIC ERİŞİMİ AYNI GÜN KESTİ
Anthropic, Cathedral'ın satış, insan kaynakları ve bilişim teknolojileriyle bağlantılı sınırlı bir sistem grubuna eriştiğini doğruladı. Şirket, izleme sistemlerinin bazı faaliyetleri erişim kendilerine bildirilmeden önce tespit ettiğini ve ilgili erişimi aynı gün içinde kapattığını bildirdi.
Paylaşılan bilgilere göre ihlal, şirketin tüm sistemlerinin ele geçirildiği anlamına gelmiyor. Anthropic, Claude kullanıcılarının sohbet içeriklerinin ve yapay zekâ modelinin kaynak kodunun olaydan etkilenmediğini belirtti.
UZMANLARDAN TEDARİK ZİNCİRİ GÜVENLİĞİ UYARISI
Siber güvenlik uzmanları, olayın ileri düzey ve karmaşık bir yapay zekâ saldırısından ziyade üçüncü taraf yazılımlar ve kurumsal güvenlik uygulamalarıyla ilişkili olabileceğine dikkat çekti. Siber güvenlik şirketi ExtraHop yöneticilerinden Heath Mullins, olayın büyük teknoloji şirketlerinin de tedarik zinciri kaynaklı güvenlik açıklarına karşı savunmasız kalabileceğini gösterdiğini ifade etti.
Yapay zekâ hizmetleri, kurumsal yazılımlar ve bulut altyapıları giderek daha fazla birbirine bağlanıyor. Bu nedenle bir hizmet sağlayıcının sistemlerinde yaşanan ihlal, doğrudan kullanıcı verilerine erişilmese bile iş süreçleri, çalışan bilgileri ve ticari sırlar açısından risk oluşturabiliyor.
Uzmanların dikkat çektiği temel nokta, güvenliğin yalnızca şirketin kendi altyapısıyla sınırlı olmadığı. Kullanılan yazılımların, erişim izinlerinin ve dış hizmet sağlayıcılarının da düzenli biçimde denetlenmesi gerekiyor.
İHLAL HALKA ARZ BAŞVURUSUNUN ARDINDAN GÜNDEME GELDİ
Güvenlik olayı, Anthropic'in halka arz hazırlıklarıyla bağlantılı başvurusunun gündeme gelmesinin ardından dikkat çekti. Şirket, başvuru belgelerinde yapay zekânın sağlık alanında hastalıkların tedavisinden ekonomik dönüşüme kadar geniş kapsamlı değişimler yaratabileceğini savundu.
Belgelerde, yapay zekâ sistemlerinin kanser, Alzheimer, kalp hastalıkları ve bazı genetik hastalıklarla mücadelede potansiyel faydalar sağlayabileceğine ilişkin değerlendirmelere de yer verildi. Bununla birlikte Anthropic, gelişmiş yapay zekâ modellerinin insanlık açısından ciddi ve varoluşsal riskler oluşturabileceği uyarısını da yaptı.
YAPAY ZEKÂ ŞİRKETLERİNDE GÜVENLİK BASKISI ARTIYOR
Anthropic vakası, yapay zekâ şirketleri açısından iki ayrı güvenlik başlığını öne çıkardı: Geliştirilen modellerin oluşturabileceği riskler ve bu modelleri geliştiren şirketlerin kendi kurumsal altyapılarını koruma sorumluluğu.
Şirketin açıklamasına göre Claude görüşmeleri ve modelin kaynak kodu ihlal kapsamında yer almadı. Ancak personel bilgileri, iç yazışmalar ve ticari süreçlere ilişkin belgelerin açığa çıktığı yönündeki iddialar, kurumsal verilerin korunmasının önemini yeniden gündeme taşıdı. Olayın kapsamı ve olası sonuçları konusunda nihai değerlendirme yapılabilmesi için erişilen verilerin niteliği ile güvenlik açığının nasıl oluştuğuna ilişkin ayrıntıların netleşmesi gerekiyor.
