GEÇTİĞİMİZ 12 ay boyunca sınır yapay zeka modellerinin yetenekleri, tartışmaların merkezinde yer almaya devam etti. Çeşitli teknik alanlarda (özellikle matematik ve biyogenetik) sergilenen son performans gösterileri, en azından ham yetenek hakkındaki şüpheciliğin eskimiş bir pozisyon olduğunu gösteriyor. Bununla birlikte, finansal sürdürülebilirlik, yaygın toplumsal risklerin düzenlenmesi ve çalışanlar ile genel olarak iş gücü üzerindeki etkisi konusunda hala soru işaretleri var. Son iki husus daha fazla incelemeyi hak ediyor.
İlk endişe olan yaygın riskler, önde gelen yapay zeka şirketlerinden bir dizi istifayla epey ilgi gördü; ayrılan bireyler yapay zekanın toplum için ciddi bir risk oluşturduğunu ve insanlığın soyunun tükenmesini tetikleme konusunda sıfırdan farklı bir olasılık taşıdığını iddia etti.
Böyle bir felaketin yolu nedir? Bu noktadaki en yaygın görüş, net etik sınırların yokluğunda yapay zeka araçlarının, büyük ölçekli insan kaybını tetikleyebilecek türden biyolojik silahlar yaratmak için kullanılabileceğidir. Diğerleri ise yapay zekanın, yanlış/rakip ellerde kitle imha silahlarını tetiklemek için kullanılabileceğini düşünüyor.
Bu korkular oldukça fantastik görünmektedir ve kamuoyuna duyurulma zamanlamaları —tam da sınır modellerin halka arz aşamasında olduğu bir dönemde— bunların bir Silikon Vadisi abartı döngüsünün parçası olduğunu düşündürmektedir.
Ancak, yetenekler ve taşıyabilecekleri riskler hakkındaki bu iddialar uzaktan bile doğruysa, çok daha basit bir soruyu gündeme getiriyorlar. Eğer bir teknoloji gerçekten bu kadar yetenekliyse, o zaman özel ellerde ne arıyor? Tarihçi ve ekonomik yorumcu Adam Tooze, toplumsal risk iddialarını olduğu gibi kabul edersek, esasen nükleer bombaya benzer türde bir felakete yol açabilecek, üstelik çok daha büyük ölçekte bir teknolojiyi geliştirdiğimiz yönünde içgörülü bir analoji yaptı.
Yapay zekanın iş gücü piyasaları üzerindeki etkisi, önümüzdeki yıllarda birçok çalışanının çeşitli şekillerde karşılaşacağı bir durumdur.
Ancak temel fark, bombanın geliştirilmesinin, tamamen devlet tarafından yönetilen ve yönlendirilen, özel teşebbüsün ise ikincil ve genellikle katı bir şekilde sınırlandırılmış bir rol oynadığı Manhattan Projesi yoluyla gerçekleşmiş olmasıdır. Öte yandan yapay zeka, önceliklerini yönlendiren özel yatırımlar ve etrafındaki söylemi şekillendiren ticari sürdürülebilirlik ile özel teşebbüs tarafından geliştirilmektedir. İnsanlık tarihinde başka hangi dönemde bu nitelikteki sözde riskler barındıran bir şeyin, sınırda anarşik pazar güdümlü bir rekabet süreci yoluyla ortaya çıkmasına izin verilmiştir?
Bu paralelliğin mantıksal sonucu, büyük ölçekli varoluşsal risk oluşturan her şeyin özel ellere bırakılamayacak kadar önemli olduğudur. Geliştirilmesini, kullanımını, satışını/satın alınmasını ve evrimini belirleyen kamusal düzenleme bir zorunluluk haline gelmektedir. Ve bu düzenleme, yoğun rekabet altında kalan ve çeşitli yasallıkların etrafından dolaşmakta çıkarı olan endüstrinin kendisinden değil, daha ziyade devletten gelmelidir.
Korku tellallığına karşı gösterilen tepkinin ötesinde, yapay zekanın kapitalist toplumlarda astronomik büyüme üretme potansiyeli etrafında da bazı şüpheler bulunmaktadır. Özellikle Ben Moll ve Alex Imas, son zamanlarda yayımlanan bir Substack makalesinde, Dario Amodei, Leopold Aschenbrenner ve çeşitli teknologlar tarafından ortaya atılan çift haneli yapay zeka destekli büyüme tahminlerinin, bunun için ders kitabı niteliğinde bir vaka oluşturmak nispeten basit olsa bile, önümüzdeki on yıl içinde gerçekleşmesinin olası olmadığını savunuyorlar.
Moll ve Imas savunuyor ki patlayıcı