Yapay zeka sistemleri, orduların saniyeler içinde hedefleri bulmasına ve yok etmesine olanak tanıyabilir. Anlamlı bir anlaşma, insan kontrolüne ve hesap verebilirliğe öncelik vermelidir Dünyanın dört bir yanındaki ordular, hedefleri bulmak, takip etmek ve yok etmek için giderek daha fazla yapay zekaya güveniyor. Cenevre'de yaklaşan bir konferans, ideal olarak otonom silah sistemlerini düzenleyen bir anlaşma yoluyla, yapay zeka destekli savaşın en ciddi riskleriyle yüzleşme şansı sunuyor. Yalnızca birkaç yıl önce yarım saat sürebilecek ve önemli ölçüde insan müdahalesi gerektirebilecek bir saldırı, artık dakikalar, hatta saniyeler sürebiliyor; yapay zeka sistemleri, bir insan operatör tarafından belirlenen güven eşiğini karşılamaları halinde liderliği ele alıyor. İran'da ABD, Minab'daki bir okulun bombalandığı ve 120'den fazla çocuğun öldüğü Şubat ayındaki saldırılarının ilk 24 saatinde 1.000 hedefi vurmak için yapay zeka destekli hedeflemeye güvendi. Rusya-Ukrayna savaşı, grevin son aşamalarında çok az insan katkısıyla veya hiç insan katkısı olmadan, yapay zeka destekli dronların yoğun şekilde kullanıldığına tanık oldu.
Ortadoğu genelinde İsrail Savunma Kuvvetleri "Lavanta", "İncil" ve "Babam Nerede?" Militan olduğu iddia edilen kişileri ve evlerini potansiyel bombalama hedefi olarak tespit eden sistemler. Lavender, 7 Ekim 2023'ü takip eden aylarda Gazze'de 37.000 Filistinlinin hedef alınmasına yardımcı oldu ve üst düzey bir İsrailli komutanın tüyler ürpertici bir şekilde "hem yeni hedeflerin belirlenmesinde hem de hedeflerin onaylanmasına yönelik karar almada insani bir darboğaz" olarak tanımladığı durumu atlattı. Bu örnekler artık aykırı değerler değil, daha ziyade daha geniş bir küresel eğilimi gösteriyor. Bu artık askeri kararlardan makineler veya yapay zeka sistemleri değil, insanların ve devletlerin sorumlu tutulmasını sağlayacak orantılı bir küresel politika ve yasal tepki gerektiriyor. Süper güçlerin askeri doktrinlerine meydan okumak ve silah sistemlerine katı düzenlemeler getirmek imkansız olmasa da göz korkutucu görünebilir. Ancak kişisel deneyimlerimden bunun yapılabileceğini biliyorum.
Yaklaşık 40 yıl önce Yeni Zelanda'yı nükleer silahlardan arınmış bir devlet olarak ilan eden yasanın kabul edilmesinde rol oynadım. Yeni Zelanda Nükleer Serbest Bölgesi, Silahsızlanma ve Silahların Kontrolü Yasası 1987'den bu güne kadar tüm nükleer silahların ve nükleer güçle çalışan gemilerin Yeni Zelanda'ya girişini yasaklıyor ve ilk uygulamaya konduğundan bu yana sürekli olarak yüksek düzeyde kamu desteği alıyor. Bugün, ahlaki ve hukuki açıdan karmaşık yeni zorluklar karşısında karşılaştırılabilir düzeyde bir küresel hırsa ihtiyacımız var. Otonom bir silah sistemi bir savaş suçunun işlenmesine yardımcı olduğunda hesap verebilirliğin sağlanması zorlaşır. Araçlar veya binalar yerine insanları hedef almak ve vurmak için tasarlanan anti-personel silahlar için riskler özellikle ciddidir. Bu silahlar savaşçı, gazeteci, sivil veya çocuk arasında ayrım yapmakta zorlanıyor.
Papa Leo XIV'in son genelgesi Magnifica Humanitas'ta belirttiği gibi: "İnsanların yüzünü görmeden saldırıları kolaylaştıran herhangi bir teknoloji, çatışmanın ahlaki eşiğini düşürür". Bu açık ve artan endişelere rağmen, en gelişmiş otonom silah sistemlerine sahip olan hükümetler, bunların geliştirilmesi ve kullanımına ilişkin bağlayıcı sınırlamalara uzun süredir direnmektedir. Onlar ayak sürürken teknoloji, veri işleme sistemleri ve ilgili gözetim araçları baş döndürücü bir hızla ilerlemeye devam etti. Teknolojik yetenek ile mevzuat kısıtlamaları arasındaki uçurum her geçen gün açılıyor. Bu teknolojilerden bazılarının üretiminin ucuz ve kopyalanmasının kolay olduğu göz önüne alındığında, devlet dışı eylemlerin devreye girme riski oldukça yüksektir.