128 ülkeden temsilciler, insan müdahalesi olmadan öldürebilen yapay zeka destekli silahların kullanımına ilişkin yasal olarak bağlayıcı kuralların müzakeresine devam edilip edilmeyeceğine karar vermek üzere Pazartesi günü Cenevre'de toplanacak. FRANCE 24, neyin tehlikede olduğunu öğrenmek için yapay zeka araştırmacısı Vincent Boulanin ile konuştu. IBM, 1979'daki dahili eğitim kılavuzunda "Bir bilgisayar hiçbir zaman sorumlu tutulamaz" diye yazıyordu. “Bu nedenle bir bilgisayar asla yönetim kararı vermemelidir.” Dünya o günden bu yana çok uzun bir yol kat etti. 128 ülkeden hükümet elçileri Pazartesi günü Cenevre'de bir araya gelerek, insan müdahalesi olmadan öldürebilen otonom silah sistemleri için yasal olarak bağlayıcı kuralların belirlenmesi konusunda görüşmelere başlanıp başlanmayacağına karar verdi. Soru akademik bir soru değil. Ukrayna semalarında, Moskova ve Kiev, insan operatörleriyle temasları kopsa bile önceden programlanmış hedefleri belirlemelerine ve vurmalarına olanak tanıyan, yapay zeka destekli yönlendirme sistemleriyle donatılmış ölümcül insansız hava araçlarını serbest bıraktı.
Bu ilerlemeler - tabiri caizse - tüm savaşları yönlendiren amansız tırmanma mantığından doğmuştur: Bir taraf saldırı dronlarını hedeflerine ulaşmadan önce rotadan çıkarmak için sinyal bozucular inşa ederse, diğer taraf daha fazla sinyal kullanmayan dronlar üretecektir. Hem Rusya'nın hem de Ukrayna'nın bir adım daha ileri giden saldırı drone'larını test ettiğine inanılıyor; sadece insan operatörler tarafından kendileri için seçilen hedeflere bağımsız olarak kilitlenmekle kalmıyor, aynı zamanda hedefleri kendileri seçiyorlar. New York Times'ın raporları, insan hayatını alan ilk tam otonom insansız hava aracının çoktan fırlatıldığını öne sürüyor. Ukraynalı adli tıp müfettişleri, Eylül ayında Ukrayna'nın Zaporizhia şehrinde bir benzin istasyonuna saldırarak üç kişiyi öldüren yarım düzine Rus insansız hava aracının tamamen yapay zeka sistemleri tarafından yönlendirildiğine inanıyor.
BM'nin Bazı Konvansiyonel Silahlar Sözleşmesi'nin (CCW) Gözden Geçirilmesi Konferansı gibi alışılmadık bir isimle gerçekleşen bu haftaki görüşmelerin gergin olması muhtemel. Üye devletlerin çoğunluğu prensip olarak otonom silah sistemlerine ilişkin bağlayıcı düzenlemeleri desteklerken, ABD ve Rusya dahil olmak üzere büyük silah üreticisi ülkeler bu tür bir anlaşmaya sürekli olarak karşı çıkıyor. Sözleşmeye göre tüm kararların oybirliğiyle alınması gerekiyor. FRANCE 24, bu haftaki konferansta neyin tehlikede olduğunu öğrenmek için kıdemli araştırmacı ve İsveç Uluslararası Barış Araştırma Enstitüsü Yönetişim ve Yapay Zeka Programı yöneticisi Vincent Boulanin ile konuştu. Otonom silahlar, BM Bazı Konvansiyonel Silahlar Sözleşmesi bağlamında 10 yılı aşkın bir süredir tartışılıyor ve ilgili devletlerin birkaç nedenden dolayı önemli gördüğü bir konu.
Bunun temel nedeni, mevcut uluslararası insancıl hukuka uygun olarak kullanılıp kullanılamayacağıdır. Temel kaygı, bunun bizi güç kullanımıyla ilgili kararları kimin verdiği konusunda düşünmeye zorlamasıdır. Otonom silahlar bağlamında temel özellik, kararların, hedeflerin belirlenmesi, seçilmesi, önceliklendirilmesi ve devreye sokulma şeklinin temel olarak silahın kendisi aracılığıyla, yani sistemlerin hedefi otomatik olarak tespit ettiği ve bir algoritma kullanarak öncelik sırasına koymak ve ardından hedefe saldırmak için algoritmik bir süreç aracılığıyla yapılmasıdır. Devamını oku 'İnferik bir olay değil': Rus insansız hava araçları 'insan safarilerinde' Ukrayna'daki sivilleri takip ediyor Ve bu temelde temel bir tartışma. Devletler eninde sonunda asıl olanın insanlar veya komutanlar olduğu konusunda hemfikirdirler.