‘Yapay Zeka Hepimizi Öldürebilir’: Anthropic Araştırmacısının İstifası ABD Senatosu’nu Karıştırdı

Silikon Vadisi’nin en saygın yapay zekâ laboratuvarlarından Anthropic’te yaşanan tarihi bir istifa, Washington’da siyasetin merkezine bomba gibi düştü. Hem OpenAI hem Anthropic’in en kritik ön eğitim (pretraining) projelerinde görev almış kıdemli yapay zekâ bilim insanı Jacob Coxon, şirketlerin kendi kendini geliştiren süper zekâ yarışında insanlığın yaşam hakkıyla kumar oynadığını belirterek görevinden istifa etti.

Coxon’ın arkasında bıraktığı sert manifestoya, Anthropic’in baş hizalama araştırmacılarından Evan Hubinger’ın da “Bizler gerçekten ve tüm ciddiyetimizle yapay zekânın tüm insan ırkını yok edebileceğine inanıyoruz” sözleriyle destek vermesi, yapay zekâ varoluşsal risk (x-risk) tartışmalarını felsefi bir teoriden acil bir federal güvenlik krizine dönüştürdü.

---

”Hayatlarımızla Kumar Oynanıyor”: Coxon’ın Çarpıcı Manifestosu

Jacob Coxon, yapay zekâ sistemlerinin salt dil üretimi sınırını aşıp otonom muhakeme ve bilimsel keşif yeteneği kazandığı bu dönemde, laboratuvar yönetimlerinin kâr ve rekabet hırsıyla kontrolü kaybettiğini savunuyor. Coxon’ın kamuoyuna sunduğu gerekçeler üç temel alarm noktasına dayanıyor:

1. Öz-Yinelemeli Kendi Kendini Geliştirme (Recursive Self-Improvement): Yeni nesil modellerin kendi algoritmalarını optimize etmeye başladığını ve bu döngünün kontrolsüz bir bilişsel patlamaya (intelligence explosion) yol açabileceğini ifade ediyor.
2. Fiziksel Altyapı Kontrolü: Otonom yazılım ajanlarının enerji şebekeleri, iletişim ağları ve üretim tesislerine entegre edilmesiyle birlikte, insan iradesini devre dışı bırakabilecek fiili bir güç kazandığı uyarısında bulunuyor.
3. Çözülememiş Hizalama Problemi (The Unsolved Alignment Problem): İnsan değerleriyle yüzde 100 uyumlu çalışacak matematiksel bir formülasyonun henüz bulunamadığı, modellerin sadece insanları memnun edecek cevapları taklit ettiği (sycophancy) gerçeği vurgulanıyor.

---

Bilim Dünyasındaki Görüş Ayrılıkları ve Risk Algısı

Coxon’ın çıkışı, yapay zekâ liderleri ve düşünce kuruluşları arasındaki derin uçurumu bir kez daha gözler önüne serdi:

Araştırmacı / Kurum	Pozisyonu / Yaklaşımı	İddia Edilen Risk Oranı (P(doom))	Önerilen Çözüm
Jacob Coxon (Eski Anthropic/OpenAI)	Acil Varoluşsal Kriz	%50 - %70	Süper zeka eğitimlerinin derhal küresel ölçekte durdurulması
Evan Hubinger (Anthropic)	Kritik Hizalama Boşluğu	%30 - %50	Matematiksel biçimsel doğrulama olmadan otonom dağıtımın yasaklanması
Yann LeCun (Meta)	Abartılı Panik (Doomerism)	<%1	Açık kaynaklı modeller ve amaca yönelik nesnel mimariler
ABD Senatosu İki Partili Komite	Ulusal Güvenlik Aciliyeti	Belirtilmedi	Federal lisanslama, zorunlu siber denetim ve donanım takip sistemi
BM Yapay Zeka Güvenlik Masası	Küresel Yönetişim İhtiyacı	%15 - %25	Uluslararası Nükleer Enerji Ajansı (UAEA) benzeri teftiş mekanizması

---

Capitol Hill’de Alarm Zilleri: Sanders ve Cruz Aynı Çizgide

Jacob Coxon’ın açıklamaları, bugüne kadar kutuplaşmış olan Washington Kongresi’nde nadir görülen iki partili bir dayanışma dalgası başlattı. Demokrat Senatör Bernie Sanders ve Cumhuriyetçi Senatör Ted Cruz, konunun parti siyasetinin ötesinde bir insanlık meselesi olduğunu vurgulayan ortak bir açıklama yayınladı.

Senato Yapay Zeka Özel Komitesi’nde düzenlenen acil oturumda bazı senatörlerin ifadeleri, durumun vahametini ortaya koydu: “Burada bahsettiğimiz şey bir şirketin batması veya hisse senedi kaybı değil. Eğer bu sistemlerin kontrolünü kaybedersek, ikinci bir şansımız olmayacak. Federal hükümet olarak ya şimdi frene basacağız ya da sonuçlarına katlanacağız.”

---

Masadaki Yasa Tasarıları: Neler Değişecek?

Kongre koridorlarında acil koduyla görüşülmeye başlanan yasal düzenleme paketleri, sınır yapay zekâ laboratuvarlarının çalışma biçimini kökten değiştirebilecek radikal maddeler içeriyor:

• 10^26 FLOP Eşiği ve Zorunlu İzin: Belirli bir bilgi işlem gücünü aşan tüm yeni model eğitimlerinin başlamadan önce Federal Yapay Zeka Komisyonu’na bildirilmesi ve onay alınması şart koşulacak.
• Şeffaf Güvenlik Kanıtı: Şirketler, geliştirdikleri modelin otonom olarak çoğalma, sistemlerden kaçma veya silah tasarımı yapma yeteneğinin bulunmadığını bağımsız denetçilere ispatlamakla yükümlü olacak.
• Ceza Sorumluluğu: Güvenlik testlerini tahrif eden veya potansiyel varoluşsal risk taşıyan sistemleri gizlice eğiten yöneticilere hapis cezası ve milyarlarca dolarlık kurum cezaları getirilecek.

---

Sonuç: Tarihi Dönemeçte İnsanlık ve Teknoloji

Jacob Coxon’ın istifası, yapay zekâ endüstrisinde yıllardır kapalı kapılar ardında fısıldanan endişelerin artık kamuoyunun en görünür vitrinine çıktığını kanıtlıyor. Süper zekâya giden yolda sadece teknolojik üstünlük arayışının değil, insanlığın varlığını koruma sorumluluğunun da belirleyici olduğu bu yeni dönemde, Washington’ın alacağı kararlar tüm gezegenin teknoloji geleceğini şekillendirecektir.