İnsanlık, düşman hedeflerini ve insanları gözetleyip insan kontrolü olmadan öldürebilen katil robotların olduğu bir dünyayla mı tehdit ediliyor? Silah uzmanları tehlikenin son derece gerçek olduğu konusunda uyarıyor. Birçok yerde bu tür ölümcül otonom silah sistemleri üzerinde çalışılıyor. Bu hafta Cenevre'de 128 ülke bu korku senaryosunun gerçeğe dönüşmemesi için mücadele ediyor. Müzakereler tamamen insan kontrolünün ötesinde, tamamen otonom silah sistemleriyle ilgili. BM Silah Konvansiyonu CCW kapsamındaki ön çalışma sırasında, hükümet uzmanları bunu şu şekilde ifade etti: "Birlikte çalışan ve sistemi çalıştıran bir insanın katılımı olmadan, insan hayatının kaybıyla sonuçlanacak şekilde bir hedefi tanımlama, seçme ve saldırma yeteneğine sahip bir veya daha fazla silah ve teknolojik bileşenin (...) birleşimi."
Bu tür silahlar zaten mevcut değil mi? Bu bir tanım meselesi. Cenevre'deki BM uzmanları, bu tür silahların çatışmalarda kullanıldığına dair henüz bir kanıt bulunmadığını söylüyor. Drone'lar Ukrayna, Sudan ve diğer savaş bölgelerinde kullanılıyor ancak genellikle drone'ları uzaktan, bazen yüzlerce kilometre uzaktan kontrol eden pilotlar tarafından kullanılıyorlar. Uzmanlara göre, ABD'nin Şubat ayında İran'ın Minab kentindeki bir okula düzenlediği ve 100'den fazla okul çocuğunun öldüğü yıkıcı füze saldırısında hedef seçiminde yapay zeka rol oynadı - ancak saldırı emri insanlardan geldi.
Konu yıllardır tartışılıyor. Bu ani acele neden? Uzmanlar, tamamen otonom silah sistemlerinin kullanıma hazır olmasının an meselesi olduğuna inanıyor. Dünya çapında savaş zamanlarında sivillerin korunmasını denetleyen Uluslararası Kızıl Haç Komitesi'nin (ICRC) avukatı Laurent Gisel, bu nedenle zamanın çok önemli olduğunu söylüyor: "Şu anda herhangi bir korkuluk yerleştirilmezse bu zor olacak: eğer bir şey halihazırda geliştirilmişse, cini tekrar şişeye koymak çok daha zor olacaktır."
Bu tür silahların geliştirildiğinde milislerin, terör örgütlerinin veya suç çetelerinin eline geçebileceğine dair endişeler de artıyor. Yasaklar bunların gizlice geliştirilmesine engel olamadı. Ancak ICRC'den Heidi Kandiel, uluslararası yasağın normlar yarattığını ve bunları ihlal edenler için küresel kınama anlamına geldiğini söylüyor. Kimyasal silahların yasaklanması ve kara mayınlarının yasa dışı ilan edilmesinin de gösterdiği gibi, caydırıcılık oldukça etkilidir.
Zaten uluslararası hukuka göre kullanımı yasaklanmaz mı? Prensip olarak evet. ABD, diğerlerinin yanı sıra, savunma sanayine yönelik yeniliklerin önüne yasal olarak bağlayıcı engeller koymak istemediklerini ve bunun yerine önümüzdeki beş yıl içinde bağlayıcı olmayan ilkeler içeren bir metnin müzakere edilmesini önerdiklerini savunuyor. Ancak birçok hükümet ve silah uzmanı, uluslararası insancıl hukukun uygulanmasında tehlikeli gri alanlar görüyor: Bu, devletleri, savaşan tarafları ve bireyleri sivilleri korumakla yükümlü kılıyor. Peki bu makinelere nasıl uygulanmalı? BM İnsan Hakları Yüksek Komiseri Volker Türk, "Bir makine hiçbir zaman bir kişinin yaşayıp yaşamayacağına karar verme gücüne sahip olmamalıdır" diye vurguluyor. "Katil Robotları Durdurun" kampanyası bunu şu şekilde ortaya koyuyor: "Makineler insan yaşamının değerini anlayamaz (...). Makineler ne bağlamı ne de sonuçları anlar: anlamak insana özgüdür"