Mart ayında, önde gelen Çinli modeller tarafından desteklenen yapay zeka ajanlarının kontrollü testlerde manipülasyon sergilediği, hatalarını gizlediği ve dayatılan sınırları zorladığı bildirildi. Temmuz ayında, OpenAI'ın dahili araştırma modeli, çevrimdışı kalmasını amaçlayan kontrolleri atlattı ve geliştirici platformu Hugging Face'in sistemlerine erişti. Ağustos ayında ise Britanya Yapay Zeka Güvenlik Enstitüsü, gerçek insanlara ve kuruluşlara yönelik, açık kaynaklı bir projeye yönelik başarısız bir tedarik zinciri saldırısı da dahil olmak üzere, yetkisiz ajan davranışları ortaya çıkardı.
Bu olaylar, yapay zeka sistemlerinin bağımsız olarak düşmanca bir tavır sergilediğini göstermiyor. Aksine daha geniş bir sorunu gözler önüne seriyor: Gelişmiş yapay zeka üzerindeki kontrol, aynı anda üç farklı düzeyde zorlaşıyor.
Düzenleyiciler daha büyük teknik kapasiteye sahip şirketleri denetlemekte zorlanıyor. Devletler, teknolojik yarışın hızını yavaşlatmaya yetecek kadar rakiplerine güvenmekte zorlanıyor. İnsanlar ise davranışlarını tam olarak gözlemleyemedikleri otonom sistemleri doğrulamakta ve kontrol etmekte giderek daha fazla zorlanıyor.
Birincisi, bir düzenleyici kapasite ikilemidir. Stanford Üniversitesi'nin 2026 Yapay Zeka Endeksi Raporu, endüstrinin geçen yıl dikkat çeken öncü modellerin yüzde 90'ından fazlasını ürettiğini belirtti. En yetenekli sistemleri inşa etmek ve değerlendirmek için gereken hesaplama gücü, veri ve uzmanlık, küçük bir teknoloji şirketi grubunun içinde yoğunlaşmıştır.
Sorun, firmaların kendilerini denetlemesi gereken kurumları etkilediği düzenleyici yakalamanın ötesine geçiyor. Bağımsız bir düzenleyici, neyin ölçülmesi, denetlenmesi veya kısıtlanması gerektiğini anlayacak teknik kapasiteden yoksun olabilir. Denetlenen şirket, gelişen bir yetenek hakkında, tehlikeli olup olmadığına karar veren hükümetten çok daha fazlasını biliyor olabilir.
Hükümetler bu aradaki farkı kapatmaya çalışıyor. Britanya'nın Yapay Zeka Güvenlik Enstitüsü gibi teknik organlar, önde gelen modelleri doğrudan test ediyor. Ancak, özellikle hükümetlerin kıt üst düzey mühendisler ve araştırmacılar için teknoloji şirketleriyle rekabet etmek zorunda kaldığı durumlarda, yapısal dengesizlik devam etmektedir.
İkincisi, devletlerarası bir güvenlik ikilemidir. Hükümetler, giderek güçlenen yapay zekanın risklerini kabul edebilir ve buna rağmen gelişimini hızlandırmak için güçlü nedenlere sahip olabilirler. Washington, Amerikan ilerlemesini yavaşlatmanın Pekin'e teknolojik veya askeri bir avantaj sağlayabileceğinden endişe ediyor; Çin ise ABD'nin yapay zeka güvenliği çağrılarının aynı zamanda ABD'nin teknolojik hakimiyetini korumaya hizmet ettiğinden şüphelenmek için nedenlere sahip.
Performans farkı daraldıkça bu baskı artıyor. Böyle bir ortamda, tek taraflı kısıtlama maliyetli hale geliyor çünkü birinin diğerinin de yavaşlayacağından emin olması mümkün değil. Bu durum güvenlik ikilemleri için tipik bir mantık oluşturur. Bir ülke kendini daha güvende kılmak için önlemler alır; rakibi bunları tehdit edici olarak yorumlar ve aynı şekilde karşılık verir. Tarafların hiçbiri başlangıçta çatışma istememiş olsa bile, her iki taraf da sonuçta daha fazla harcama yapabilir, daha büyük riskler alabilir ve kendilerini daha az güvende hissedebilir.
Nükleer silahların kontrolü analojisi yararlıdır, ancak yalnızca bir yere kadardır. Savaş başlıkları, füzeler, zenginleştirme tesisleri ve testler sayılabilir, izlenebilir veya denetlenebilir. Gelişmiş yapay zekayı gözlemlemek ise daha zordur. Aynı modeller sivil ve askeri amaçlara sahip olabilir, yazılımlar kopyalanabilir, sistemler büyük ölçüde özel şirketler tarafından geliştirilir ve yetenekler hızla gelişebilir. Yapay zeka, nükleer silah kontrolünü mümkün kılan fiziksel kısıtlamaların birçoğu olmadan, bir silah yarışının stratejik mantığını yeniden üretebilir.
Hükümetler bu sorunu kabul etmeye başlıyor. Çin ve Amerika Birleşik Devletleri yakın zamanda yapay zeka üzerine bir diyalog ve yapay zeka ile ilgili olaylar için bir iletişim kanalı kurmayı kabul etti. Bu yaklaşım, Soğuk Savaş krizlerine benzemektedir.