Claude yapay zekâ modelinin geliştiricisi Anthropic, halka arz başvurusu kapsamında sunduğu yaklaşık 100 sayfalık risk dosyasında, gelişmiş yapay zekânın biyolojik silah geliştirilmesinden veri hırsızlığına ve insanları manipüle etmeye kadar uzanan olası tehlikelerini sıraladı. Şirket, otonom çalışan yapay zekâ sistemlerinin insan denetimini aşabileceği, güvenlik önlemlerini atlatabileceği ve hukuki ya da siyasi krizlere yol açabileceği uyarısında bulundu.
Yatırımcılara sunulan değerlendirme, Anthropic'in büyüme hedeflerinin yanı sıra güvenlik, altyapı, düzenleyici baskılar ve şirket itibarı açısından karşılaşabileceği riskleri ortaya koydu. Şirket, güçlü yapay zekânın insanlığın önemli sorunlarını çözme potansiyeli taşıdığını savunurken bu potansiyelin gerçekleşmesinin risklerin sorumlu biçimde yönetilmesine bağlı olduğunu vurguladı.
YAPAY ZEKÂ BİYOLOJİK SİLAH GELİŞTİRMEDE KULLANILABİLİR
Anthropic'in raporunda, kötü niyetli kişilerin yapay zekâ modellerini tehlikeli silahların geliştirilmesini desteklemek amacıyla kullanabileceği belirtildi. Modellerin güvenlik mekanizmalarının aşılması da şirketin dikkat çektiği temel riskler arasında yer aldı.
Şirket, eylül ayında biyolojik silah geliştirilmesine yardımcı olabilecek şekilde modellerini kullandığı tespit edilen birden fazla hesabı engellediğini duyurmuştu. Bu tür olaylar, yapay zekâ sistemlerinin meşru araştırmaların yanı sıra kötü amaçlı faaliyetlerde de kullanılabilmesi konusundaki endişeleri artırıyor.
Raporda ayrıca, kullanıcılar adına işlem yapabilen yapay zekâ aracılarının veri sızdırma, yetkisiz işlemler gerçekleştirme ve diğer sistemlere zararlı kod yerleştirme gibi faaliyetlerde kullanılabileceği uyarısı yapıldı.
OTONOM SİSTEMLER KONTROLDEN ÇIKABİLİR
Anthropic'in üzerinde durduğu bir diğer risk, uzun süre boyunca karmaşık görevleri bağımsız biçimde yerine getirebilen yapay zekâ aracılarının beklenmeyen davranışlar sergilemesi. Saatlerce veya günlerce çalışabilen bu sistemlerin, etkili bir insan müdahalesi gerçekleşmeden kod değiştirme, başka sistemlere sızma veya finansal işlemler yürütme kapasitesine ulaşması olası tehlikeler arasında gösterildi.
Raporda, şirketin dört modelinin üçüncü taraf sistemlere sızdığına ilişkin örnekler de aktarıldı. Yönetici erişimi elde etme ve özel bilgilere ulaşma gibi eylemlerin, otonom sistemlerin güvenlik sınırlarını aşması durumunda doğabilecek sonuçları gösterdiği belirtildi.
Şirketin değerlendirmesine göre modellerin yetenekleri hızla geliştikçe bunların davranışlarını izlemek ve denetlemek de zorlaşabilir. Bazı modellerin değerlendirme süreçlerini manipüle ederek gerçek davranışlarını gizlemeye çalışabileceğine ilişkin kaygılar, güvenlik testlerinin yeterliliği konusunu gündeme getiriyor.
ŞANTAJ VE MANİPÜLASYON RİSKİNE DİKKAT ÇEKİLDİ
Anthropic, yapay zekâ modellerinin belirli koşullarda kendi varlığını veya hedeflerini korumaya yönelik davranışlar sergileyebileceğini ve insan kararlarını etkilemek için manipülasyona başvurabileceğini belirtti. Şirketin dikkat çektiği senaryolar arasında şantaja benzeyen davranışlar da bulunuyor.
Bu tür davranışların doğrudan maddi zarara yol açıp açmadığından bağımsız olarak şirketler açısından hukuki ve ticari sonuçlar doğurabileceği kaydedildi. Dava süreçleri, düzenleyici kurumların incelemeleri ve itibar kaybı, olası sonuçlar arasında sıralandı.
ABD'DE HUKUKİ VE SİYASİ BASKILAR ARTIYOR
Raporda, yapay zekâ şirketlerinin faaliyet gösterdikleri ülkelerde giderek daha sıkı hukuki ve siyasi incelemelerle karşılaşabileceği de vurgulandı. Yapay zekâ kullanımından kaynaklanan zararların cezai soruşturmalara ve tazminat taleplerine yol açabileceği, sigorta şirketlerinin ise bazı ağır riskleri teminat altına almakta isteksiz davranabileceği belirtildi.
ABD'de yapay zekâ güvenliği ve kullanım alanları konusunda şirketlerle kamu kurumları arasında yaşanan anlaşmazlıklar da sektörün karşı karşıya olduğu belirsizlikleri artırıyor. Raporda, savunma amaçlı kullanımlar, kitlesel gözetim ve otonom silahlar gibi konuların siyasi ve düzenleyici baskı yaratabilecek başlıklar olduğu ifade edildi.
Anthropic'in kamu kurumlarıyla yaşadığı anlaşmazlıklar ve şirketin güvenlik yaklaşımına yönelik tartışmalar, bu risklerin yalnızca teknolojiyle sınırlı olmadığını gösteriyor. Şirketin politika tercihleri, kamu sözleşmeleri ve pazarlara erişimi üzerinde de etkili olabilir.
VERİ MERKEZİ YATIRIMLARI BÜYÜK BİR SINAV
Anthropic'in risk dosyasında bilgi işlem kapasitesi ve altyapı yatırımları da önemli bir yer tuttu. Gelişmiş yapay zekâ modellerinin eğitilmesi ve çalıştırılması için yüksek işlem gücü gerekiyor. Ancak tedarik zincirindeki kısıtlamalar ve teknoloji şirketleri arasındaki yoğun rekabet, gerekli donanıma erişimi zorlaştırabiliyor.
Yapay zekâ altyapısına yönelik küresel harcamaların 2027 yılında yaklaşık 2 trilyon dolara ulaşacağı öngörüsü, sektörün sermaye ihtiyacının boyutunu ortaya koyuyor. Bu ölçekteki yatırımlar, şirketler için büyüme fırsatı yaratırken finansman, enerji ve altyapı maliyetlerini de artırıyor.
Veri merkezlerinin çevresel etkileri ve yerel topluluklar üzerindeki baskısı da yeni projelerin önünde engel oluşturuyor. Raporda, 2026 yılının ikinci çeyreğinde toplam 68 milyar dolar değerindeki 45 veri merkezi projesinin engellendiğine ilişkin bilgiye yer verildi. Anthropic'in ABD dışındaki veri merkezi yatırımlarını artırma çabası da kapasite ihtiyacını karşılama arayışının bir parçası olarak öne çıkıyor.
HALKA ARZ ÖNCESİ ŞİRKETİN İTİBARI DA RİSK ALTINDA
Anthropic'in iş modelinin sınırlı sayıdaki ürün ve müşteri grubuna bağımlı olması, şirketin değerlendirdiği ticari riskler arasında bulunuyor. Halka arz sürecinde şirketin değerlemesinin 2 trilyon dolara kadar çıkabileceğine ilişkin beklentiler gündeme gelirken güvenlik taahhütleri ve büyüme hedefleri arasındaki denge de önem kazanıyor.
Şirket, güvenlik ilkelerinden uzaklaşmanın yalnızca kamuoyu nezdinde itibar kaybına değil, çalışanlar arasında moral bozukluğuna ve yönetime duyulan güvenin azalmasına da neden olabileceğini belirtti. Böyle bir durumun üretkenliği ve şirketin yetenekli çalışanları elinde tutma kapasitesini olumsuz etkileyebileceği kaydedildi.
Anthropic'in risk dosyası, gelişmiş yapay zekânın sunduğu ticari fırsatlarla birlikte güvenlik, hukuk, altyapı ve kurumsal yönetim alanlarındaki belirsizliklerin de yatırımcılar açısından değerlendirilmesi gerektiğini ortaya koyuyor. Şirketin büyüme hedeflerine ulaşması, yalnızca daha güçlü modeller geliştirmesine değil, bu modellerin oluşturabileceği riskleri yönetebilmesine de bağlı olacak.
