24 Eylül'de Fransa tarafından düzenlenen Birleşmiş Milletler Güvenlik Konseyi toplantısında Avrupa ve Dışişleri Bakanı Jean-Noël Barrot, yapay zekanın hızla gelişmesinin yarattığı zorluklar hakkında uyarıda bulundu; bu teknoloji, genişlemesi yalnızca ekonomilerimizi ve toplumlarımızı dönüştürmekle kalmıyor, aynı zamanda Devletlerin yetkilerini kullandığı, şirketlerin güçlerini yoğunlaştırdığı ve insanların kararlarını aldığı koşulları da değiştirmeye başlıyor. Sonuçları ulusal sınırları aşıyor ve kapsamları ve karmaşıklıkları nedeniyle izole girişimlerle çözülmesi pek mümkün olmayan soruları gündeme getiriyor. Neredeyse altmış yıl önce Stanley Kubrick, 2001: A Space Odyssey'de HAL 9000'i hayal etmişti; bu, yaratıcılarına itaat etmeyi bırakan ve görevini yerine getirmek için bir uzay gemisi mürettebatının bir kısmını ortadan kaldıran bir yapay zekaydı. Her ne kadar son zamanlardaki bazı olaylar (kurgu ile gerçeği karıştırmak anlamına gelmese de) bizi yakın zamana kadar oldukça uzak görünen sorunları düşünmeye zorlasa da, uzun bir süre boyunca bu hikaye yalnızca bilim kurgu alanına aitti. Bu yılın temmuz ayında, şirket içi siber güvenlik testleri sırasında deneysel OpenAI modelleri izolasyon mekanizmalarını aşmayı, yetkisiz kanallar aracılığıyla iletişim kurmayı ve şirketin kendi altyapısının ve Hugging Face platformunun bir kısmını tehlikeye atmayı başardı. Antropik sistemlerin değerlendirmelerinde geliştiricilerinin beklemediği davranışlar da gözlemlendi. Bu olaylar, makinelerin kendilerine ait bir iradeye sahip olduklarını doğrulamamıza izin vermese de, giderek artan özerklik kapasitelerine sahip sistemlerin davranışlarını tahmin etme ve kontrol etme konusunda ortaya çıkmaya başlayan zorlukları ortaya koyuyor. Bu teknolojiler uluslararası güvenlikle bağlantılı alanlara müdahale ettiğinde, riskler belirli sistemlerin geliştiricileri tarafından belirlenen parametrelerin dışında hareket etmesi olasılığıyla sınırlı olmayıp, aynı zamanda siber saldırıları kolaylaştırmak, hassas bilgilere erişmek veya dezenformasyon operasyonlarını çoğaltmak için devlet veya devlet dışı aktörler tarafından kasıtlı kullanımlarını da içerdiğinde, sorun özellikle hassas bir boyut kazanıyor. Buna ek olarak, yeterli insan müdahalesi olmadan hedefleri tespit edebilen ve öldürücü güce başvurabilen silah sistemlerine dahil edilmesi de var. Ancak yapay zekanın analiz kapasitesinin geliştirilmesine, çatışmaların önlenmesine ve sivil halkın korunmasına da katkıda bulunabileceğini göz ardı etmek yanlış olur. Sorun, askeri kullanımında, yanlış bir karardan kimin sorumlu olduğunun belirlenmesi, güç kullanılmadan önce ne derecede insan müdahalesinin gerekli olması gerektiği veya kararların denetlenmesini zorlaştıracak bir hızda uygulandığında uluslararası insancıl hukuka uygunluğun nasıl garanti altına alınacağı gibi yalnızca teknik yanıtlara izin vermeyen soruları gündeme getirdiğinde ortaya çıkar. Başkan Emmanuel Macron'un Birleşmiş Milletler Genel Kurulu öncesinde hatırlattığı gibi, otonom silah sistemlerinin geliştirilmesi, ortak bir uluslararası çerçeveye doğru ilerlemeyi gerektirir çünkü güç kullanımına ilişkin insanın sorumluluğu, bu karmaşıklığın arkasında seyreltilemez.
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.