Yapay zeka (AI) insanlık için gerçek bir tehlike olabilir mi? Bu, özellikle eski bir Anthropic çalışanı olan Jacob Coxon'un şirketten istifa etmesinden ve "Yapay zekayı inşa edenler, bunun on yılın sonundan önce hepimizi öldürebileceğine içtenlikle inandıklarını" ifade etmesinden sonra, tüm dünyayı aylardır merakta bırakan sorudur. OpenAI Vakfı ve Güvenlik Komitesi yönetim kurulu üyesi Paul Christiano, konuyu Hinton Lectures 2026'da (Nobel Ödülü sahibi ve bilgisayar bilimcisi Geoffrey Hinton tarafından düzenlenen yapay zeka etiği konulu bir toplantı) yeniden masaya yatırdı ve teknoloji medyası Gizmodo'nun haberine göre "Yapay Zeka kazalarının" birkaç ay içinde "en olası" ölüm nedeni haline geleceğine dair güvence verdi. "Bu odadaki insanların çoğu için ölmelerinin en olası nedeni bir yapay zeka kazasıdır" dedi. Aynı zamanda, bu teknolojinin hızla ilerlemesi ve gelişmesiyle birlikte, "Yapay zekanın kontrolü ele geçirme ihtimalinin %50 olduğunu" ileri sürdü. Ve "gerçekçi" politika tepkileriyle bile "riskin olağanüstü yüksek olmaya devam ettiğini" ekledi. Onun vizyonu bazı meslektaşlarından çok uzak değil. "METR (yapay zeka araştırmalarına adanmış kar amacı gütmeyen bir kuruluş), Anthropic'in ilerlemesinin yapay zeka sayesinde neredeyse iki kat daha fazla hızlanacağını tahmin ediyor. Bu çok önemli: İnsanüstü bir yapay zeka araştırmacısı için önceki tahminim 2030 civarındaydı, şimdi ise 2027," diye yazdı Yapay Zeka Vadeli İşlemler Projesi'nin araştırmacısı ve kurucu ortağı Eli Lifland, üç ila 12 ay içinde yazdı." Redwood Research CEO'su Buck Shlegeris de bu görüşe katılıyor: "Sanırım yaklaşık 2027 yılı var." Gelecek yıl yapay zeka şirketlerinin süper zeka geliştirme şansı üçte bir: yani yapay zeka insanlardan çok daha akıllı." Uzman, eğer bu gerçekleşirse, muhtemelen "hükümetler gibi insan kurumlarını ele geçirecekler veya onları yok edecekler." Bu tehlikeyle karşı karşıya kalan Shlegeris, yapay zekanın gelişimini yavaşlatmayı önerdi. Küresel alarm Son aylarda, büyük teknoloji şirketlerinin liderleri de yapay zekanın özerkliği konusundaki endişelerini dile getirdi. Bunu ilk dile getirenlerden biri CEO ve CEO Dario Amodei oldu. Zamandan tasarruf etmek ve güvenlik önlemlerini güçlendirmek için en gelişmiş modellerin geliştirilmesini yavaşlatmak gerektiğini belirten Anthropic'in kurucu ortağı, “Yapay zeka modellerinin yeteneklerini geliştirme hızımızı azaltmalıyız. Amodei bir blog yazısında "İlerleme hızlı görünmeye devam edecek ve kazandığımız zamanı akıllıca kullanmalıyız" diye yazdı. Yönetici, önerdiği üç adımlı çerçevenin bir parçası olarak, Anthropic'in önde gelen AI şirketlerine, ilgili araçlara ve dahili risk değerlendirme süreçlerine erişime sahip kalıcı dış değerlendiricileri dahil edeceğini söyledi. Ancak model eğitiminin veya teknik ilerlemenin durdurulması çağrısında bulunmadığını, bunun yerine şirketlerin modellerini ayarlamak ve korumak için gerekli zamanı ayırmalarını sağlamak için çağrıda bulunduğunu ve bağımsız değerlendiricilerin bu önlemleri OpenAI CEO'su ve ana rakiplerinden biri olan Sam Altman tarafından doğruladığını açıkladı.
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.