BM Cenevre'de Tarihi İmza: 142 Ülkeden Otonom Yapay Zekâ Silahlarına Sıkı Denetim Anlaşması

İnsanlık, atom bombasının keşfinden bu yana karşılaştığı en büyük varoluşsal teknolojik tehdide karşı ilk kez küresel ölçekte ortak bir barikat kurdu. Birleşmiş Milletler Cenevre Ofisi’nde aylardır süren kapalı kapı diplomasisinin ardından, aralarında ABD, Çin, Avrupa Birliği üyeleri ve Türkiye’nin de bulunduğu 142 ülke, “Öldürücü Otonom Silah Sistemleri ve Sınır Modellerin Denetimi Konvansiyonu”nu ayakta alkışlarla kabul etti.

Cenevre Anlaşması, yapay zekâ literatüründe tarihi bir milat olarak kabul ediliyor. Anlaşma; insan gözetimi olmaksızın kendi başına hedef seçip ölümcül vuruş yapan otonom dron sürülerini ve robotik silahları uluslararası savaş suçu kapsamına alırken, AGI (Yapay Genel Zekâ) eşiğindeki devasa modellerin eğitimi için Uluslararası Atom Enerjisi Ajansı (IAEA) modelinde yeni bir denetim mekanizması kuruyor.

---

Anlamlı İnsan Kontrolü (Meaningful Human Control) İlkesi

Konvansiyonun en temel omurgasını, öldürücü askeri operasyonlarda yapay zekânın yalnızca bir istihbarat ve radar analiz aracı olarak kalabileceğini emreden madde oluşturuyor:

Denetim Maddesi	Eski Durum (Gri Alan)	Cenevre Konvansiyonu Sonrası
Otonom Hedef İmhası	Algoritmik yüz tanımayla anında vuruş	Yasaklandı: Son karar insan komutanda olmak zorunda
Nükleer Komuta Kontrolü	Erken uyarıda yapay zekâ tetikleme riski	Kesin Yasak: Nükleer fırlatma zincirinde sıfır AI
Biyolojik ve Kimyasal AI Tasarımı	Denetimsiz genetik molekül taraması	DNA sentezleyicilerine zorunlu küresel dijital filtre
10^26 FLOP Üzeri Model Eğitimi	Şirketlerin kendi inisiyatifinde gizli	BM Uluslararası Yapay Zekâ Ajansı (IAIA) Teftişi

BM Genel Sekreteri António Guterres, anlaşmanın ardından yaptığı konuşmada: “Bir algoritmanın hayat ile ölüm arasında karar vermesine izin vermek, insanlık onurunun ve ahlakının iflası olurdu. Cenevre’de makinelere değil, insan vicdanına teslimiyetimizi tescilledik,” ifadelerini kullandı.

---

Viyana Merkezli “Uluslararası Yapay Zekâ Ajansı” (IAIA) Kuruluyor

Anlaşmanın en somut kurumsal meyvesi, tıpkı nükleer tesisleri denetleyen IAEA gibi, Viyana’da genel merkezi kurulacak olan Uluslararası Yapay Zekâ Ajansı (IAIA) oldu.

Ajansın sahip olacağı yetkiler:

1. Süper Bilgisayar Donanım Takibi: 50 binin üzerinde gelişmiş GPU/HBM içeren veri merkezlerinin konumları ve enerji tüketimleri bağımsız müfettişler tarafından uydu ve şebeke sayaçlarıyla denetlenecek.
2. Kırmızı Takım (Red Teaming) Güvencesi: Kritik altyapıları çökertme veya otonom siber saldırı düzenleme yeteneğine sahip modeller kamuya açılmadan önce uluslararası bağımsız bilim heyetlerince güvenlik testinden geçirilecek.
3. Kriz Anında Küresel Kapatma Düğmesi (Kill Switch): Kontrol dışına çıkan veya uluslararası kuralları ihlal eden yapay zekâ kümelerine karşı ülkelerin ortak siber müdahale protokolü devreye sokulacak.

---

Silikon Vadisi ve Şanghay Laboratuvarlarından Destek

Anlaşmaya teknoloji devlerinden de destek geldi. OpenAI, Microsoft, Google, Anthropic ve Baidu temsilcileri, vahşi ve regüle edilmemiş bir süper zekâ yarışının tüm taraflar için felaket getireceğini belirterek Cenevre standartlarına tam uyum sağlayacaklarını taahhüt etti.

Uzmanlar, konvansiyonun açık kaynaklı yazılım geliştiren bağımsız araştırmacıları boğmayacak şekilde kurgulandığını; denetim sınırının yalnızca milyar dolarlık devasa süper kümeleri kapsadığını belirtiyor.

---

Kısa Özet

• Cenevre’de 142 Ülkeden İmza: BM, otonom silahları yasaklayan küresel yapay zekâ konvansiyonunu onayladı.
• Otonom Hedef Vurma Yasak: Askeri güç kullanımında insan onayı zorunlu kılındı; nükleer fırlatmada yapay zekâ tamamen men edildi.
• Viyana’da IAIA Kuruluyor: Nükleer denetim ajansı benzeri bir uluslararası yapay zekâ teftiş kurumu oluşturuldu.
• 10^26 FLOP Eşiği: Sınır modellerin eğitimi bağımsız güvenlik testleri ve resmi bildirim zorunluluğuna bağlandı.

---

Sonuç

BM Cenevre Konvansiyonu, insanlığın yapay zekâ devriminde kontrolü kaybetmemek adına attığı en büyük kolektif diplomasi zaferidir. Algoritmaların gücünü sınırlandırmak, teknolojinin gelişimini durdurmak değil; tam aksine onu insanlığın ortak barış ve refahına hizmet edecek güvenli bir rotada tutmaktır.

---

Sıkça Sorulan Sorular

Anlaşmaya uymayan ülkelere veya şirketlere ne tür yaptırımlar uygulanacak?

Konvansiyon, kuralları ihlal eden ülkelere karşı BM Güvenlik Konseyi aracılığıyla gelişmiş yarı iletken, litografi ekipmanı (ASML) ve küresel bulut hizmeti ambargosu uygulanmasını öngören bağlayıcı yaptırım maddeleri içermektedir.

Küçük açık kaynak modeller bu yasadan olumsuz etkilenecek mi?

Hayır. Anlaşma metninde açıkça belirtildiği üzere 10^26 FLOP altındaki eğitimler ve sivil açık kaynak toplulukları herhangi bir izne veya teftişe tabi değildir; serbest inovasyon alanı korunmuştur.

Otonom hava savunma sistemleri (örneğin Demir Kubbe vb.) yasak kapsamında mı?

Geleneksel hava savunma füzeleri fırlatılan roketi havada imha ettiği için “insan hayatını doğrudan hedef almayan meşru müdafaa kalkanı” statüsünde tutulmuş ve yasaktan muaf bırakılmıştır. Yasak, doğrudan insan hedeflerini arayıp vuran saldırı sistemlerini kapsamaktadır.