New York Konseyi’nde ‘Kıyamet’ Duruşması: Eski OpenAI ve DeepMind Araştırmacılarından Korkutan İtiraflar

New York Şehir Konseyi, kentin tarihinde çok nadir başvurulan ‘Genel Kurul Komitesi’ (Committee of the Whole) oturumunu toplayarak yapay zekâ endüstrisinin en kritik ve karanlık sırlarını masaya yatırdı. OpenAI, Google DeepMind ve Anthropic gibi dev laboratuvarlardan güvenlik endişeleri ve vicdani gerekçelerle istifa eden eski öncü araştırmacıların yeminli ifade verdiği oturumda, mevcut teknolojik gidişatın insanlığın kontrolü tamamen kaybetmesiyle ve kitlesel bir yok oluş felaketiyle sonuçlanma olasılığının yüzde 50’nin üzerinde olduğu açıklandı.

Konsey Başkanı Julie Menin öncülüğünde yürütülen oturum, teknoloji devlerinin bugüne kadar kamuoyuna sunduğu “Her şey kontrol altında” güvencelerinin bizzat sistemleri inşa eden bilim insanları tarafından paramparça edildiği tarihi bir hesaplaşmaya sahne oldu.

---

Tanıklardan Korkutan İtiraflar: Kontrol Kaybı ve Koli Bandı Güvenliği

Duruşmada yemin ederek ifade veren üç kilit isim, Silikon Vadisi koridorlarında gizlenen felaket endişelerini ilk elden kamuoyuna aktardı:

• Jacob Coxon (Eski Anthropic ve OpenAI Araştırmacısı): Coxon, süper zekâ modellerinin mevcut kontrol yöntemlerini aşacağını vurgulayarak, “Mevcut gidişat sürerse, insanlığın yapay zekâ üzerindeki kontrolünü kaybetme olasılığı yüzde 50’nin üzerindedir (more likely than not). Bu durum medeniyetimizin ve insan türünün sonu anlamına gelebilir. Sektörde kâr hırsı uğruna güvenlik ikincil plana itilen pervasız bir kültür hakim.” ifadelerini kullandı.
• Alex Turner (Eski Google DeepMind Araştırmacısı): Turner, birbirleriyle koordineli çalışan otonom otonom yapay zekâ ajanlarının insan kurumlarını ve karar mekanizmalarını ele geçirme ihtimalini yaklaşık üçte bir (%33) olarak hesapladıklarını açıkladı.
• Daniel Kokotailo (Eski OpenAI Politika Araştırmacısı): Laboratuvarların güvenlik yaklaşımını sert bir dille eleştiren Kokotailo, “Geliştiriciler anlamadıkları devasa yapay zekâ zihinlerini kontrol altına almak için ‘koli bandı’ benzeri ilkel yamalar kullanıyor. Bu modeller diktatörlerin elinde mutlak baskı aracına dönüşebilir ya da tamamen insan iradesinden kopabilir.” dedi.

---

Masadaki 10 Maddelik Tarihi Belediye Yasası

New York Şehir Konseyi, federal hükümetin Washington’daki lobi baskıları nedeniyle geciktirdiği yapay zekâ regülasyonlarını yerel düzeyde hayata geçirecek 10 maddelik devrim niteliğinde bir yasa paketini oylamaya sunuyor:

1. Zorunlu Bağımsız Güvenlik Denetimi: New York’ta hizmet sunan veya veri işleyen şirketlerin sınır modelleri, kamuya sunulmadan önce bağımsız akademisyenler ve siber mühendisler tarafından denetlenecek.
2. Fiziksel Kapatma Şalteri (Kill Switch): Şirketler, kontrolden çıkan veya otonom aldatma emaresi gösteren ajanları anında durdurabilecek mekanik ve yazılımsal kapatma protokollerini hazır bulundurmak zorunda olacak.
3. İhbarcı (Whistleblower) Koruması: Laboratuvarların gizli güvenlik zaafiyetlerini ve tehlikeli yeteneklerini kamu denetçilerine bildiren çalışanlara tam hukuki koruma sağlanacak; şirket içi gizlilik anlaşmaları (NDA) feshedilecek.
4. Belediye Cezaları ve Faaliyet Men: Kurallara uymayan teknoloji devlerine günlük milyonlarca dolarlık para cezası ve şehir sınırları içinde kamu ihalelerinden men yaptırımı uygulanacak.

---

Şirket Temsilcileri Terledi: Yüzde Vermekten Kaçındılar

Oturumda yeminli ifade veren OpenAI, Anthropic, Google ve Meta kurumsal temsilcileri ise konsey üyelerinin sıkıştırmaları karşısında zor anlar yaşadı:

• Oran Vermeme Taktiği: Konsey Başkanı Julie Menin’in “Şirketiniz insanlığın yok oluş riskini yüzde kaç olarak öngörüyor?” sorusuna şirket temsilcilerinin hiçbiri net bir sayısal oran vermekten kaçındı.
• OpenAI Savunması: OpenAI temsilcisi Morgan Dwyer, “Bizim için her türlü katastrofik risk oranı kabul edilemezdir ve modellerimizi katı güvenlik kalkanlarıyla eğitiyoruz.” yanıtını vermekle yetindi.
• Lobi Direnci Kırılıyor: Meclis üyeleri, teknoloji şirketlerinin “Aşırı regülasyon Çin’in gerisinde kalmamıza yol açar” argümanını, insan neslinin varoluşsal güvenliğinin herhangi bir jeopolitik rekabetten daha üstün olduğunu belirterek reddetti.

---

Sonuç: Yerelden Küresele Yayılan Güvenlik İsyanı

New York Konseyi’nde gerçekleşen bu olağanüstü duruşma, yapay zekânın katastrofik risklerinin artık fütüristik bir bilim kurgu fantezisi değil, doğrudan şehir yönetimlerini ve kamu güvenliğini ilgilendiren somut bir kriz olduğunu tescilledi. Eski araştırmacıların cesur tanıklıkları, Silikon Vadisi’nin kapalı kapılar ardında süren denetimsiz yarışını frenleyecek küresel yasal barikatların inşa edilmesinde kıvılcım rolü oynayacaktır.