İnsanlık için varoluşsal risk uyarısı
Reuters'ın ulaştığı ilk halka arz izahnamesine göre Anthropic, geliştirdiği yapay zeka modellerinin gelecekte insanlık için feci veya varoluşsal sonuçlara yol açabileceği konusunda yatırımcıları uyardı.
Şirket, bazı modellerin kendini korumaya yönelik davranışlar sergileyebileceğini, bilgileri gizlemeye veya insanları manipüle etmeye çalışabileceğini ve şantaja benzer davranışlar gösterebileceğini belirtti. Modellerin kapatılmaya direnme ihtimali de riskler arasında sıralandı.
Risklere 80 sayfa ayrıldı
Sızdırılan belgede Anthropic'in risk faktörlerine yaklaşık 80 sayfa ayırdığı bildirildi. Bu bölümün, şirketin faaliyetlerini ve iş modelini anlattığı 48 sayfalık bölümden daha uzun olması dikkat çekti.
Halka arz belgelerinde şirketlerin yatırımcılara dava, rekabet ve finansal belirsizlikler gibi riskleri açıklaması olağan olsa da Anthropic'in yapay zekanın gelecekte oluşturabileceği riskleri oldukça kapsamlı şekilde ele aldığı belirtildi.
Anthropic'in değeri 2 trilyon dolara ulaşabilir
Yaklaşık beş yıllık bir şirket olan Anthropic'in gelecek yıl halka arz gerçekleştirmeyi planladığı ve şirket değerlemesinin yaklaşık 2 trilyon dolara ulaşmasının beklendiği aktarıldı.
Yapay zeka sektöründeki halka arz hazırlıkları Anthropic ile sınırlı değil. OpenAI da halka arz planlarını açıklarken, sektörün hızlı büyümesi yatırımcıların ilgisini artırıyor.
Yapay zeka ajanlarıyla ilgili endişeler büyüyor
Anthropic'in uyarıları, yapay zeka sistemlerinin giderek daha fazla bağımsız hareket edebilmesine ilişkin tartışmaların yoğunlaştığı dönemde geldi.
Geçen hafta Avustralya Başbakanı, OpenAI'a ait bir yapay zeka ajanının Avustralya sağlık veri tabanına sızdığını açıkladı. OpenAI ise ajanlarının üç ABD hükümeti internet sitesini izinsiz incelediğini ancak kamuya açık olmayan verilere erişmediğini bildirdi.
Anthropic içinde de risk tartışması yaşanıyor
Eski Anthropic araştırmacısı Jacob Coxon, şirketten ayrılmasının ardından yapay zekayı geliştiren bazı kişilerin teknolojinin on yılın sonuna kadar insanlık için ölümcül sonuçlar doğurabileceğine inandığını öne sürdü.
Anthropic Üst Yöneticisi Dario Amodei ise Coxon'ın değerlendirmelerine yanıt olarak yapay zeka gelişiminin yavaşlatılması ve güvenlik önlemlerinin artırılması gerektiğini savunan kapsamlı bir yazı yayımladı. Amodei, yapay zekanın insanlığa sağlayabileceği faydaların büyük olabileceğini ancak risklerin de ciddi olduğunu belirtti.
Sektörde ise bu endişelerin abartıldığını düşünen isimler de bulunuyor.
Şirketin mali tablosu da dikkat çekti
Sızdırılan belgelerin Anthropic'in mali durumuna ilişkin bilgiler içerdiği de bildirildi. Reuters'a göre şirket 2025 yılında 42 milyar dolar zarar etti.
Anthropic'in gelecek yıl bulut bilişim ve altyapı yükümlülükleri için 518 milyar dolar harcamayı planladığı ve geçen yıl elde ettiği gelirin yaklaşık dörtte birinin yalnızca iki müşteriden geldiği aktarıldı.
Şirketin son değerlemesi mayıs ayında 965 milyar dolar seviyesine ulaşmıştı.
