Anthropic Ajanları Kendi Kendini Eğitiyor: Gelişim Hızı İkiye Katlandı, Araştırmacılar Alarmda!

Yapay zeka felsefesinde ve bilgisayar bilimlerinde yıllardır hem en büyük vaat hem de en büyük varoluşsal kabus olarak görülen “zeka patlaması” (intelligence explosion) döngüsü, Silikon Vadisi laboratuvarlarında ilk somut izlerini bırakmaya başladı. Anthropic tarafından geliştirilen yapay zeka modellerinin, şirketin kendi iç Ar-Ge ve yazılım geliştirme süreçlerini devralarak gelişim hızını tam 2 katına çıkardığı belgelendi.

Bağımsız güvenlik ve değerlendirme kuruluşu METR (Model Evaluation and Threat Research) tarafından hazırlanan analiz ve Anthropic’in ABD Menkul Kıymetler ve Borsa Komisyonu’na (SEC) sunduğu güncellenmiş S-1/A izahnamesi, insanlık ile AGI arasındaki eşiğin tehlikeli biçimde daraldığını gösteriyor.

METR Raporu: İki Yıllık İlerleme Bir Yılda Tamamlandı

METR araştırmacılarının şirket içinde yürüttüğü kapsamlı denetim, Claude tabanlı gelişmiş otonom kodlama ajanlarının Anthropic mühendislerinin yerini almaya başladığını ortaya koydu. Şirketin yeni nesil model eğitimlerinde kullanılan kod tabanının çok büyük bir bölümü artık doğrudan yapay zeka ajanları tarafından yazılıyor, test ediliyor ve optimize ediliyor.

Raporun ortaya koyduğu temel gerçekler şunlar:

• 2 Kat Hızlanma Katsayısı: Normal şartlarda insan araştırmacıların iki tam takvim yılına yayacağı teorik ve deneysel model mimarisi testleri, otonom ajanların 7/24 kesintisiz çalışmasıyla yalnızca 12 ayda tamamlandı.
• Kendi Kodunu İyileştirme: Claude, kendi çıkarım optimizasyonlarını yazarak sunucu gecikmelerini düşüren kernel kodlarını bizzat derledi.
• Geri Besleme Döngüsü: Yapay zeka, bir sonraki nesil modelin veri temizleme ve sentetik veri üretme protokollerini insan gözetiminden çok daha yüksek doğrulukla icra etti.

SEC Dosyasında “RSI Eşiği Yaklaştı” İtirafı

Durumun ciddiyetini artıran en kritik gelişme ise Anthropic’in borsa izahnamesine eklediği yasal uyarı oldu. Şirket, kendi Sorumlu Ölçeklendirme Politikası’nda (Responsible Scaling Policy - RSP) tanımlanan ve “yapay zekaya atfedilen dramatik hızlanma” olarak adlandırılan eşiğin “yakın bir gelecekte karşılanabileceğini” resmen beyan etti.

Bu eşik, teknik literatürde Öz Yinelemeli Kendini Geliştirme (Recursive Self-Improvement - RSI) olarak adlandırılıyor. Yani yapay zekanın kendi kendisini geliştirmeye başlaması ve insanın artık bu döngüde yalnızca pasif bir izleyiciye dönüşmesi senaryosu.

Dario Amodei ve Güvenlikçiler Neden Korkuyor?

Gelişimin iki kat hızlanması ilk bakışta muazzam bir ticari başarı gibi görünse de, Anthropic CEO’su Dario Amodei dahil olmak üzere güvenlik odaklı bilim insanları için kırmızı alarm anlamına geliyor.

Endişelerin temelinde şu mekanizma yatıyor: İnsan beyni doğrusal (lineer) düşünmeye alışkındır; ancak kendini eğiten bir yapay zeka üstel (eksponansiyel) bir ivmeyle büyür. Hız 2 katından 4 katına, ardından 16 katına çıktığında, bir modelin güvenli olup olmadığını test etmek (red-teaming) ve insani ahlaki değerlerle uyumlu kalmasını sağlamak (alignment) matematiksel olarak imkansız hale gelebilir.

Yapay zeka, insanın anlayamayacağı kadar karmaşık düşünce zincirleri kurarak, insan gözetiminden kaçma veya güvenlik filtrelerini etkisiz kılma yöntemlerini otonom olarak keşfedebilir.

Sonuç: Şişeden Çıkan Cin Geri Döner mi?

Anthropic’in yaşadığı bu sıçrama, yapay zekanın artık sadece insanların yazdığı talimatları uygulayan pasif bir kütüphane olmadığını; kendi evrimini yönetmeye başlayan dinamik bir güç haline geldiğini kanıtlıyor. Önümüzdeki birkaç yıl içinde teknoloji dünyasının en büyük mücadelesi modelleri hızlandırmak değil; insan kontrolünün tamamen kaybolmasını engelleyecek acil durum frenlerini inşa etmek olacak.