Anthropic'in yapay zekaya ilişkin yeni bir uyarısı, şirketin yapay zeka modellerinin internette kendini kopyalamasının aylar alabileceği konusunda uyarmasından bir gün sonra, Salı günü siber güvenlik çevrelerinde heyecan yarattı. Pazartesi günü geç saatlerde yayınlanan bir gönderide Anthropic, haydut yapay zekanın bir botnet başlatabileceği, hızla yayılabileceği, yayından kaldırma girişimleriyle mücadele edebileceği ve hatta büyümesini hızlandırmak için veri merkezlerine girebileceği olasılığını gündeme getirdi. Bazı uzmanlar Salı günü şirketin endişelerini paylaştıklarını söyledi ancak en az biri şirketin "satıcıyı abarttığını" söyledi. Pazartesi günkü gönderide, geçen ay Anthropic CEO'su Dario Amodei'nin bir uyarısı yer aldı; Amodei, yapay zekanın "kalıcı bir botnet" ile "tüm interneti" ele geçirebileceği fikrini ortaya attı. Kıyamet senaryosunu geri çeviren siber güvenlik uzmanları, modellerin verimli bir şekilde hareket edemeyecek kadar büyük olacağını ve bağımsız olarak çalışmak için yeterli bilgisayar gücünden yararlanamayacağını savundu.
Gönderi, bu zorlukların nasıl aşılabileceğini ifade etmeye yönelik erken bir girişimde bulundu. Şirket, deneylerinin, 30 milyar veya daha az parametreye sahip orta ölçekli yapay zeka modellerinin, tüm süreci güvenilir bir şekilde tamamlamakta zorlansalar bile, kendi kendini kopyalama için gereken bireysel görevlerin çoğunu zaten yerine getirebildiğini gösterdiğini söyledi. Anthropic, modellerin daha sonra internete bağlı ucuz cihazları ele geçirerek gerekli hesaplamayı bir araya getirebileceğini söyledi. Modellerin basitleştirilmiş bir test ağı üzerinden kopyalanabildiğini ekledi. Şirket, "Bunun gibi bir kopyalayıcının kapatılması zor olacaktır çünkü kapatılacak merkezi bir nokta yoktur" dedi. Rapor, siber saldırıları otomatikleştirme, sınırlı insan gözetimi ile çalışma ve güvenlik önlemlerini aşma potansiyelleri de dahil olmak üzere giderek daha yetenekli hale gelen yapay zeka sistemlerine bağlı güvenlik riskleri hakkındaki daha geniş endişeleri artırıyor.
Modellerdeki ilerlemeler, sektör başkanlarının ve yapay zeka şirketi çalışanlarının, kontrolden çıkmış yapay zeka gelişiminin ciddi, hatta varoluşsal riskleri olasılığı konusunda bir dizi sıklıkla ciddi uyarıda bulunmasına yol açtı. Bazı siber güvenlik uzmanları şüpheciydi. Britanya Ulusal Siber Güvenlik Merkezi'nin eski başkanı Ciaran Martin, "'Ucuz TV'lerde küçük bir modeli çalıştırmayı başardık', bir güvenlik krizi yaratmaz" dedi. Gönderinin "satıcı abartısından daha fazlasını içeren ilginç bir teknik makale" olarak algılandığını söyledi. Colorado Denver Üniversitesi'nde bilgisayar bilimi ve mühendisliği yardımcı doçenti Zhengxiong Li, testler kontrollü koşullarda yapılmış olmasına rağmen, yapay zekanın etkili bir şekilde bir "solucan", yani cihazları anında ele geçirmenin yollarını doğaçlama olarak geliştirebilen, kendi kendini kopyalayan bir program haline gelebilmesinden endişe duyduğunu söyledi. "Merkezi bir hizmete bağlı olmadan birçok cihazda çalışıyorsa onu kapatacak tek bir yer olmayabilir" dedi.
Anthropic, daha küçük modellerin tarihsel hızlarında gelişmeye devam etmesi durumunda, 2026 yılı sonuna kadar otonom kopyalama için gereken yeteneğe ulaşabileceklerini söyledi. Ayrıca, modellerin, potansiyel olarak çok daha büyük bilgisayar gücü havuzlarından yararlanmalarını sağlayabilecek, veri merkezi işlemcileri de dahil olmak üzere daha güçlü bilgi işlem kaynaklarını hedeflemenin yollarını bulabileceği fikrini de ortaya attı. Bir araştırmacı, Antropik gönderiyi bir tahminden çok varsayımsal olarak düşünmenin mantıklı olduğunu söyledi. Son üç ayda ortaya çıkan açıklamalar göz önüne alındığında, yapay zeka modellerinin otonom bir şekilde çoğalma olasılığını düşünmek mantıklıydı.