Yapay zekayla desteklenen ölümcül otonom silahlar, savaşta devrim yaratmaya hazırlanıyor ancak yeni teknolojiyi yöneten uygun bir düzenleyici veya yasal çerçeve yok. Pazartesi günü Cenevre'deki Birleşmiş Milletler'de başlayacak konferansta, bazılarının katil robotlar olarak adlandırdığı bu tür silahlara nasıl kısıtlama ve yasak getirileceği tartışılacak. Ancak bazı analistler, Bazı Konvansiyonel Silahlar Konvansiyonu'ndaki (CCW) tartışmaların hızla değişen silahlara ayak uyduracağından şüpheli. AFP konferans öncesinde üç temel soruyu ele alıyor. Cenevre Güvenlik Politikası Merkezi'nde küresel ve ortaya çıkan riskler başkanı Jean-Marc Rickli, Ölümcül Otonom Silah Sistemleri (LAWS), "bu görevlerin yerine getirilmesinde bir insan operatörün müdahalesi olmadan bir hedefi tanımlayabilir, seçebilir ve harekete geçebilir" dedi.
Otonom silahlar uzun zamandır var. Fransız Uluslararası İlişkiler Enstitüsü (IFRI) Teknoloji Jeopolitiği Merkezi'nden Laure de Roucy-Rochegonde, anti-personel mayınların "birisi üzerine bastığında patlaması anlamında özerk bir silahtır" dedi. Ancak AI destekli dronların yaygınlaşmasıyla birlikte, bu tür silahlar artık "önceden belirlenmemiş bir hedefi seçip ona saldırabilme, insan müdahalesi olmadan çevrelerine uyum sağlama yeteneğine sahip" dedi Rickli. Dolayısıyla potansiyel düzenleyiciler için kritik konu, böyle bir silahı kullanma kararı üzerindeki insan kontrolünün düzeyini belirlemektir. ABD, otonom silahların kullanımında “uygun düzeyde insan muhakemesi”nden söz ediyor. Fransa, karar alma döngüsünde bir insanın kalması gerektiğini savunuyor ve “ölümcül otonom silah sistemlerini” (LAWS) yasaklıyor ancak PLAWS olarak bilinen “kısmen otonom” sistemlere izin veriyor.
Fransa savunma bakanlığı Savunma Yapay Zeka Ajansı (AMIAD) direktör yardımcısı Tuğamiral Vincent Sebastien, "İnsan rolü her zaman bir askeri komutan tarafından 'uygun kontrol' olarak adlandırılan şeyle sağlanır; bu kavram sistemin kritikliğine ve operasyonel bağlama göre kapsamı değişir." dedi. BM Genel Sekreteri Antonio Guterres ve Uluslararası Kızıl Haç Komitesi başkanı Mirjana Spoljaric, ağustos ayında yaptıkları ortak açıklamada, "Artık ahlaki bir kırmızı çizgiyi aşmaya tehlikeli derecede yakınız: insanların makineler tarafından otonom olarak hedef alınması" uyarısında bulundu. Ancak analistler, Cenevre görüşmelerinin önemli olmasına rağmen konunun yalnızca bir kısmına değineceğini söyledi. Günümüzde analiz ve hedeflemede yapay zekanın giderek artan kullanımı, insanların azalan rolünü tetikliyor. Rickli, Cenevre'deki gündemin kapsamının "çok dar" olduğunu söyledi.
Özellikle hedef oluşturmada kullanımının genişlediği bir alan olan "Savaş alanında yapay zekayı çevreleyen tüm sorunları kapsama konusunda başarısız oluyor". Bunun, bu yıl İran'a karşı ABD-İsrail'in "Amerikalıların İran içinde günde 1000 kadar hedefe saldırdığı" savaşta görüldüğünü söyledi. De Roucy-Rochegonde, "Hedefleme ve karar destek sistemleriyle ilgili çok sayıda sorun ve kabul edilemez riskler var" diye ekledi. "Bu tartışmanın bir kısmı halihazırda savaş alanında yaygın olarak kullanılan sistemlerle ilgilidir." "Operatörün, makinenin tavsiyelerine sadece bir onay damgası koymak yerine, gerçekten kendi muhakemesini uyguladığından emin olmak için ne tür bir insan denetimi gereklidir?" diye sordu. Analistler bunların İngiltere'yi işgalinde Rusya tarafından kullanıldığını belirtmesine rağmen, Cenevre'de tartışılacak olan otonom silahlar henüz yaygın kullanımda değil.