Yapay zekanın gelişim hızı, onu geliştiren bilim insanlarını dahi endişelendiren bir evreye ulaştı. Güvenlik odaklı yapay zeka mimarileriyle tanınan Anthropic laboratuvarı, yayımladığı son teknik değerlendirme raporunda yapay zeka sistemlerinin otonomisine dair sarsıcı veriler paylaştı. Rapora göre, şirketin geliştirdiği Claude adlı büyük dil modeli, şu anda kendi kaynak kodunun %80’inden fazlasını tek başına yazıyor. Bu oranın 2025 yılının başında henüz %10’un altında olduğu düşünüldüğünde, sistemin yapay zeka mühendisliğini insan meslektaşlarından devralma hızı teknoloji dünyasında alarm zillerinin çalmasına neden oldu.
"Özyinelemeli Kendini Geliştirme" Sınırı
Anthropic araştırmacıları Marina Favaro ve Jack Clark tarafından kaleme alınan resmi blog yazısında, bu durum tıp ve bilim gibi alanlarda devrimsel sıçramalar yaratabilecek olsa da, teorik bir risk olan "özyinelemeli kendini geliştirme" (recursive self-improvement) evresini başlattığı vurgulandı.
Özyinelemeli gelişim; bir yapay zekanın insana ihtiyaç duymadan kendi kodundaki açıkları bulması, optimize etmesi ve kendisinden katbekat daha akıllı, yeni nesil bir yapay zeka modeli tasarlaması anlamına geliyor. Araştırmacılar, geliştirme döngüsünün kontrol mekanizmasının kısmen de olsa insandan çıkıp yapay zekaya devredildiğini ve bu zincirleme reaksiyonun bir kez başladıktan sonra durdurulamayacağını ifade ediyor.
Güvenlik Protokolü ve Küresel Moratoryum Senaryoları
Anthropic’in yayımladığı rapora göre, otonom gelişim riskinin yönetilebilmesi için masada duran senaryolar ve karşılaşılan küresel engeller şu şekilde sıralanmaktadır:
-
"Kırmızı Düğme" (Yavaşlama/Duraklama): Şirket, yapay zekanın otonom yazılım geliştirme döngüsünün kontrolden çıkma emaresi göstermesi halinde, laboratuvarların gelişimi geçici olarak yavaşlatması veya tamamen durdurması (moratoryum) gerektiğini savunuyor.
-
Küresel Koordinasyon Çıkmazı: Anthropic, tek bir şirketin veya ülkenin durmasının yeterli olmayacağını, dünya genelindeki tüm büyük yapay zeka laboratuvarlarının (OpenAI, Google, Meta vb.) ve devletlerin ortak hareket etmesi gerektiğini belirtiyor.
-
Jeopolitik Rekabet Engeli: ABD ve Çin başta olmak üzere ülkeler arasındaki yapay zeka alanındaki liderlik yarışı, küresel bir duraklama kararının uygulanmasını neredeyse imkansız hale getiriyor. 2023 yılında binlerce teknoloji liderinin imzaladığı "6 ay duraklama" çağrısının da sahada hiçbir somut karşılık bulamadığı hatırlatılıyor.
Yapay Zekada Kontrol ve Otonomi Değişim Matrisi
Aşağıdaki tablo, yapay zekanın kendi kodunu yazma yeteneğindeki agresif yükselişi ve bunun yarattığı sektörel kırılmayı özetlemektedir:
| Zaman Dilimi | Claude Modelinin Kendi Kodunu Yazma Oranı | Geliştirme Sürecindeki İnsan Rolü | Temel Risk Faktörü |
| 2025 Başı | %10'un altında | Mutlak Denetleyici: Kod mimarisi tamamen insanlar tarafından tasarlanıyor, yapay zeka sadece asistanlık yapıyordu. | Yok denecek kadar az; sistem tamamen tahmin edilebilir sınırlardaydı. |
| 2026 Ortası (Günümüz) | %80'in üzerinde | Kısmi Gözlemci: Kodun ezici çoğunluğunu otonom üreten yapay zekanın algoritmik kararları insanlar tarafından inceleniyor. | Özyinelemeli Gelişim: İnsan zekasının sistemin ürettiği karmaşık kod yapısını ve mantık hatalarını anlamakta yetersiz kalmaya başlaması. |
| Gelecek Projeksiyonu | %100 Otonomi | Devre Dışı: Yeni nesil yapay zekalar, bir önceki nesil yapay zeka tarafından uçtan uca inşa edilecek. | Singularity (Tekillik): İnsanın yapay zeka üzerindeki tüm denetim ve kapatma (fişi çekme) yetkisini tamamen kaybetmesi. |
Sonuç ve Uyarı: Anthropic yetkilileri, insanlığın kendi yarattığı teknoloji üzerinde kalıcı bir kör noktaya doğru ilerlediğini savunuyor. Yapay zekanın yapay zekayı eğittiği ve kodladığı bir dünyada, güvenlik filtrelerinin ve insan ahlakına uyum (alignment) protokollerinin yazılımdan temizlenmesi riski, önümüzdeki dönemin en büyük ulusal güvenlik ve varoluşsal kriz başlığı olmaya aday görünüyor.
