Geçtiğimiz onlarca yıl boyunca akademisyenler ve gazeteciler, dijital teknolojinin insanlık için ne anlama geldiğini hem umut hem de kaygı karışımı bir duyguyla kaleme aldılar: Umutluydular çünkü dijital devrim yaşam standartlarını yükseltmişti, kaygılıydılar çünkü toplumsal bölünmeleri derinleştirmiş ve dünya genelinde siyaseti istikrarsızlaştırmıştı.
Ancak sektör liderlerinin yapay zekanın insanlığın sonunu pekala getirebileceği konusunda uyarılarda bulunmasıyla birlikte, kaygı son zamanlarda varoluşsal bir boyut kazandı. Özellikle Anthropic’in uyum bilimi lideri Evan Hubinger, yapay zekanın önümüzdeki on yıl içinde tüm insanları öldürme olasılığının yüzde 10'dan fazla olduğunu söyledi. OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei, Bill Gates ve yapay zeka geliştirme çalışmalarının yavaşlatılması çağrısında bulunan diğer tanınmış teknoloji figürlerinden de benzer, ancak bir dereceye kadar daha az alarm verici uyarılar geldi.
Doğal olarak bu uyarılar, yapay zekanın bizim için neler yapabileceğinden ziyade bize neler yapabileceği yönündeki endişeleri körükledi. Yapay zeka modelleri şimdiden insan müdahalesi çok az veya hiç olmadan daha gelişmiş yapay zekalar inşa edebilir; bu durum, anlamak veya kontrol etmek için çok az yeteneğe sahip olduğumuz güçleri serbest bırakan "özyineli kendi kendini geliştirme" olasılığını artırıyor. Bağımsız olarak çalışması gereken yüzlerce yapay zeka ajanının iletişim kurmanın yollarını bulduğu ve bir sürü gibi hareket etmeye başladığı Hugging Face veri ihlali, endişe verici bir ön izleme sundu.
Bütün bunlar insanın aklına Bertrand Russell'ı getiriyor. Russell, tümevarım eleştirisinde, her sabah okşanmaya alışan tavukların, bir gün -muhtemelen arkadaşlarını öğle yemeğine davet etmiş olan- çiftçinin boyunlarını burktuğunda nasıl bir şok yaşayacaklarına dikkat çekmişti. Gözlemlediği gibi, "doğanın tekdüzeliğine ilişkin daha incelikli görüşler tavuk için yararlı olurdu."
Ankaygı varoluşsal bir döneme girdi, çünkü sektör liderleri yapay zekanın insanlığı sona erdirebileceği konusunda uyarılarda bulunmaya başladı
Ben Russell'ın tümevarım şüpheciliğini paylaşıyorum ancak tavuklara verdiği tavsiyeye ikna olmuş değilim. Tavuklar onun tavsiyesine uysalar, son günlerini sadece çaresiz bir panik içinde yaşarlardı. İnsanlar için durum farklıdır; çünkü Russell'ın tavuklarının aksine bizler kendi davranışlarımızı değiştirme gücüne sahibiz. Yapay zekanın aşırılıklarını nasıl frenlememiz gerektiğine dair önerilerin de sonu yok; sınır modellerinin geliştirilmesine ara verilmesinden süper zeki yapay zekanın tamamen yasaklanmasına kadar pek çok fikir ortaya atılıyor.
Bu öneriler ne kadar mantıklı olursa olsun işe yaramayabilir. Oyun teorisi ve özellikle mahkumun ikilemi bize bunun nedenini söylüyor. Eğer her şirket tek başına ve kendi çıkarı doğrultusunda hareket etmeye bırakılırsa, herkes için en kötü sonuca varabiliriz. Amodei'nin de savunduğu gibi ihtiyaç duyulan şey "sektör çapında koordinasyondur." Yine de bu bile yeterli olmayabilir, çünkü yapay zeka aynı zamanda jeopolitik bir sorundur. Eğer ABD ihtiyatlı davranırsa, Çin öne geçebilir.
Bazı yorumcular, ABD'nin yapay zeka geliştirme konusunda geri durmaması gerektiğini savunmak için bu korkunun üzerine atladılar. Bu bir hata olurdu. ABD, küresel bir anlaşmaya varmak için Çin ile birlikte çalışmalıdır. Ancak bu gerçekleşmese bile, tam gaz ileri gitmek için hiçbir neden yok. Atom bombalarının savaşta kullanıldığı tek zamanın ABD'nin nükleer tekele sahip olduğu dönem olduğunu hatırlamakta fayda var. Machiavellian kulağa gelebilir ancak nükleer ihtiyat ancak Sovyetler Birliği ve nihayetinde diğer ülkeler bombayı edindikten sonra hakimiyet kazandı. Aynı mantık yapay zeka için de geçerli olabilir.
Eğer her şirket tek başına ve kendi çıkarı doğrultusunda hareket etmeye bırakılırsa, herkes için en kötü sonuçla karşılaşabiliriz
For all t