Yapay Zekâ Nükleer Silahtan Daha mı Tehlikeli?

Askeri yapay zekâ

Askeri yapay zekâ, üç alanda yoğunlaşmıştır: algı ve tanıma, hedefleme ve navigasyon, sürücüsüz araçlar. Bu alanlarda hız ve karar kalitesi, insan operatörünün yavaşlığını telafi edebilir.

Asıl dönüm noktası, kararın insan tarafından alınıp alınmadığıdır. Keşif ve destekte otomasyon tartışmasız; hedef seçimi ve kullanım kararı ise gerçek bir sorumluluk sınırıdır.

Nükleer karar zinciri

Nükleer fırlatma kararının devlet başkanı ya da yetkili makamın onayıyla verilmesi, uzun süredir sistemin temel güvenlik özelliğidir. Bu, askeri kararlardan farklı olarak nadiren tartışma altındadır.

Yapay zekânın bu alandaki riski, sisteme güvenilmez bir bileşen olarak eklenmesidir. Uyarı sistemlerinin yanlış veya eksik kalması, insan kararını bilgi kirliliği içinde zorlar.

Otonom silah sistemleri

Otonom silah, hedef seçme ve kullanma kararının insan müdahalesi olmadan verilmesidir. Bu sistemlerle ilgili en güçlü itiraz, masum sivil ile savaşçıyı ayırt etme yeteneğinin güvenilirliği üzerinedir.

Teknik olarak bu ayrım çözülmüş değildir. Yanlış sınıflandırma, geri dönüşü olmayan sonuçlar doğurur. Bu nedenle uluslararası görüşmeler otonom silah sınırlamasına odaklanmaktadır.

Hız, denetimi zorlaştırır

Yapay zekâ, karar süresini önemli ölçüde kısaltır. Bu, insana daha fazla bilgi ve zaman sağlayabilir; ancak aynı zamanda yeterince düşünmeden karar verme baskısı yaratabilir.

Asıl tehlike, modelin bilmediğini bildirememesidir. Güvensiz hissettiği bir durumda bile öneri sunan bir sistem, insan kararının temelini zayıflatır.

Ne yapılabilir?

Savunulabilir bir çerçeve, bazı kararların makineye devredilemeyeceğini açıkça kabul etmektir. Nükleer kullanım ve hedef seçimi, insan onayının zorunlu olduğu alanlar olarak korunmalıdır.

Buna ek olarak, sistemlerin ne yapmadığını bilmek gerekir. Aşırı temkinli davranan bir sistem, bazı görevlerde işlevsiz olsa da, yüksek riskli alanlarda bu kabul edilebilir bir ödünleşmedir.

Sık sorulan sorular

Kaynakça

1. Silahlı çatışma ve yapay zekâ rehberiICRC
2. Yapay zekâ güvenliği ve yönetişimUN