Teknoloji patronlarının şirketlerini otokrasiler gibi yönetmelerine izin verilirse yapay zekayı insanlık için güvenli hale getiremeyiz. Geçtiğimiz iki yılda, dünyanın önde gelen yapay zeka laboratuvarlarında rahatsız edici bir model ortaya çıktı. Bir güvenlik araştırmacısı veya mühendisi, ticari baskıların güvenlik korkuluklarını geçersiz kıldığına dair kamuya açık bir uyarıda bulunarak defalarca kapıdan çıkar. Geçen ay, OpenAI'nin ürün sürümlerine ilişkin güvenlik raporlarını denetleyen kişi, şirketin kültürünün "bozulmuş" olması ve tüm AI endüstrisinin teknolojiyi geliştirmede çok dikkatsiz olması nedeniyle ChatGPT yaratıcısından ayrıldığını söyledi. Geçtiğimiz ay, OpenAI'nin rakibi Anthropic'teki bir araştırmacı, yapay zekanın "on yılın sonuna kadar hepimizi öldürebileceğine" inandığını söyleyerek istifa etmişti.
Toplum olarak bu bireylerin cesaretini alkışlıyoruz ve uyarılarını bir haber döngüsü boyunca tartışıyoruz ve sonra yolumuza devam ediyoruz. Ancak bu istifaların ortaya çıkardığı daha derin kurumsal başarısızlığı gözden kaçırıyoruz: Büyük siyaset bilimci Albert Hirschman'ın açıkça belirttiği gibi, çıkış ses değildir. Vicdanlı bir mühendisin alarma geçmesinin tek yolu ayrılmak olduğunda, bu sektörde kurumsal yönetimin bozulduğunun açık bir işaretidir. Her kalkış, bu sistemleri güvenli bir şekilde yönlendirmek için gereken bilgiyi de beraberinde getirir. Politika yapıcılar, teknoloji çalışanları, sendikacılar, parlamento üyeleri ve Vatikan ve BM de dahil olmak üzere çok çeşitli küresel kurumlardan uzmanlar bu hafta Londra'da yapay zeka güvenliğini tartışmak üzere bir araya gelirken, rahatsız edici bir gerçekle yüzleşmeliyiz: Yapay zekayı inşa eden şirketler içeride otokrasi olarak kalmaya devam ederse, yapay zekayı dışarıdan güvenli bir şekilde düzenleyemeyiz.
Düzenleyici tartışmalar, hükümetlerin yapay zekayı ya kusurları test edilecek bir tüketici ürünü olarak ya da iş dünyasındaki kuralları gevşeterek kazanılacak jeopolitik bir yarış olarak ele aldığı dar bir zihniyet içinde sıkışıp kalmaya devam ediyor. Bu, Ursula von der Leyen'in "yüksek riskli" yapay zeka sistemlerinin geliştiricileri için özel güvenlik gerekliliklerini belirleyen AB'nin dönüm noktası niteliğindeki 2024 Yapay Zeka Yasasında yer alan kuralların uygulanmasını geciktiren AB dijital paketinin mantığıdır. Kurumsal lobiler, mevzuatın çok fazla yük getirdiğini öne sürerek, güvenlik ve yenilik arasındaki bu denge çerçevesini teşvik ediyor. Bu tehlikeli bir yoldur. Yapay zeka yalnızca bir yazılım ürünü değildir; bu bir hükümet teknolojisidir. Yetinside'deki OpenAI, Anthropic, Microsoft ve Google gibi öncü laboratuvarlarda bir avuç yönetici ve sermaye yatırımcısı, milyonlarca yaşamı şekillendiren modellere hangi değerlerin kodlanacağına karar veriyor.
Esnek çalışma ekonomisine ilişkin araştırmalara öncülük eden ve Avrupa'da otomatikleştirilmiş çalışmaya yönelik araştırmalara öncülük eden Oxford hukuk uzmanı Jeremias Adams-Prassl'ın gösterdiği gibi, algoritmik yönetim, çoğu zaman herhangi bir insan gözetimi olmaksızın, sosyoekonomik yelpazedeki işçileri zaten izliyor, değerlendiriyor ve işten çıkarıyor. Demokratik bir toplumda, yönetme yetkisinin kullanılması, yönetilenlerin rızasını gerektirir. Ancak şirketler hukuku hâlâ firmaları hissedarların malı, aklını, sağlığını ve canını şirkete adayan emek yatırımcılarını ise astları olarak görüyor. Yapay zekayı kamu çıkarlarıyla uyumlu hale getirmek için ikili bir stratejiye ihtiyacımız var: Yapay zekaya ilişkin "dışarıdan" katı kamu düzenlemelerinin yanı sıra, kurumsal kara kutuya girmemiz ve kurumsal yönetimi demokratik ilkelerle uyumlu hale getirmeye zorlamamız gerekiyor.
Yasa koyucuların üç kritik reform üzerinde ilerlemesi gerekiyor. Öncelikle yapay zeka geliştirmede yapay zeka modelleri geliştirenleri korumalı ve güçlendirmelidirler. Hükümetler, personeli susturan ifşa etmeme ve aşağılamama hükümlerini yasaklamalı