Yapay zekanın on yılın sonuna kadar insanlığın sonunu getirebileceği endişesiyle geçen ay işinden ayrılan eski Anthropic araştırmacısı Jacob Coxon, 5 Ekim Pazartesi günü New York Şehri Konseyi'nde düzenlenen bir oturumda bu uyarılarını yineledi. Oturum, yapay zekanın insanlığa oluşturduğu riskleri tartışmak amacıyla düzenlendi. OpenAI, Google, Anthropic ve Meta yetkilileri de Konsey huzuruna çıkarken, Elon Musk’ın SpaceX’i oturuma katılmadı.
Oturumdaki ifadelerinde, son zamanlarda Anthropic, OpenAI ve Google DeepMind'dan ayrılan yapay zeka güvenliği araştırmacıları, bu firmalardaki pervasız bir kültürü gözler önüne serdi. En büyük teknoloji şirketlerinin, nasıl kontrol edileceğini bilmedikleri bir teknolojiyi yaratmak için yarıştığını söylediler. Bu arada teknoloji sektörü temsilcileri, gelişmiş yapay zeka sistemlerinin insanlığı tehlikeye atabileceğine dair artan endişelere yanıt olarak yerel hükümetler tarafından daha büyük bir denetim çağrısında bulundu.
Bu oturum, Konseyin şirketlerin yapay zeka araçları hakkında bilgi vermesini zorunlu kılan, şehirdeki yapay zeka sistemleri için üçüncü taraf onayını şart koşan ve muhbirlerin yasaları ihlal eden yapay zeka şirketlerinin cezalarından pay almasına izin veren yasa tasarılarını incelediği bir dönemde gerçekleşti. New York Valisi Kathy Hochul da yapay zeka etrafında raporlama ve şeffaflık standartları dayatmak için harekete geçti.
ABD'deki ve dünyanın geri kalanındaki politikacılar da yapay zeka güvenliğini güçlendirmek için önlemler araştırıyor. Bu hamleler, yapay zeka sistemlerinin felaket niteliğinde zararlara neden olacağına dair artan korkunun yanı sıra, beklenmedik şekilde davranan yapay zeka ajanlarını içeren bir dizi hack olayının körüklenmesiyle gerçekleşti.
Ayrıca Oku | Sınır yapay zeka geliştirme yavaşlatılmalı mı? İşte teknoloji sektörü liderlerinin söyledikleri
Geçen ay Anthropic CEO'su Dario Amodei, güvenlik araştırmalarının arayı kapatmasına izin vermek için dünya çapında sınır yapay zeka çalışmalarının kasıtlı olarak yavaşlatılması çağrısında bulundu. OpenAI'dan Sam Altman, SpaceXAI'dan Elon Musk ve Google'dan Demis Hassabis dahil olmak üzere yapay zeka endüstrisinin titanları nadir bir anlaşma içindeydi. Ancak Nvidia'dan Jensen Huang ve ABD Başkanı Donald Trump gibi diğer isimler bu endişeleri önemsiz ve bir "aldatmaca" olarak nitelendirerek reddetti.
NYC Konseyi oturumunda ne oldu?
Associated Press'in Konsey oturumunda aktardığına göre, düzenleme için lider bir ses haline gelen eski Anthropic mühendisi Jacob Coxon, "Şirketler bir startup zihniyetiyle çalışıyor: Hızlı hareket et, bir şeyleri kır, sonra düzelt. Bu, bir fotoğraf paylaşım uygulaması için işe yarar. Şimdiye kadar yapılmış en güçlü teknolojiyi inşa etmek için işe yaramaz" dedi.
Coxon, "Mevcut yolda, insanlığın bu yapay zekaların kontrolünü kaybetmesinin muhtemelen kaçınılmaz olduğunu ve bunun insanlığın sonu ile sonuçlanabileceğini düşünüyorum" dedi.
Teknoloji devleri OpenAI, Anthropic, Google ve Meta'yı temsil eden yapay zeka şirketi çalışanlarından oluşan bir panel de oturumda ifade verdi. Yetkililere sistemlerinin halihazırda insanların günlük yaşamlarını iyileştirdiğini söylediler ve güvenliğin en büyük öncelik olduğunu vurguladılar. Anthropic ve OpenAI temsilcileri, gelişmiş yapay zeka ürünlerinin düzenlenmesi gerektiğini söyledi.
OpenAI'dan Morgan Dwyer, "Teknolojinin güvenli bir şekilde geliştirilmesini ve faydalarının geniş çapta paylaşılmasını sağlama taahhüdünüzü paylaşıyorum" dedi.
Ayrıca Oku | Anthropic’ten Dario Amodei daha yavaş bir yapay zeka yarışına çağrıda bulunuyor: Ne gerekecek ve bu yapılabilir mi?
Yapay zekanın oluşturduğu riskin ölçülebilir olup olmadığı konusunda Dwyer, "Bilmiyorum - ayrıca ters gidecek felaket bir şey olma şansının %1 mi, %10 mu yoksa %20 mi olduğu da umurumda değil. Bu seviyelerin hiçbiri uzaktan kabul edilebilir değil. Yapamayacağımız modelleri eğitmemeliyiz..."