Instagram veya Facebook üzerinden Global News alıyorsanız bu durum değişecek. Bizimle nasıl bağlantıda kalmaya devam edebileceğinizi öğrenin.
Salı günü siber güvenlik çevrelerinde yankı uyandıran Anthropic kaynaklı yapay zeka odaklı yeni bir uyarı, şirketin AI modellerinin aylar içinde internet genelinde kendi kendini kopyalayabileceği yönündeki açıklamasından bir gün sonra geldi.
Anthropic, Pazartesi geç saatlerde yayımladığı bir gönderide, kontrolden çıkmış bir yapay zeka modelinin bir botnet ağı kurabileceği, hızla yayılabileceği, engelleme girişimleriyle savaşabileceği ve hatta büyümesini hızlandırmak için veri merkezlerine sızabileceği ihtimalini gündeme getirdi. Bazı uzmanlar Salı günü şirketin endişelerini paylaştıklarını belirtirken, en az bir uzman şirketin "satıcı abartısına" başvurduğunu ifade etti.
Pazartesi günkü gönderi, Anthropic CEO'su Dario Amodei'nin geçen ay yaptığı ve yapay zekanın önümüzdeki yıl içinde veya daha erken bir zamanda "kalıcı bir botnet" ile "tüm interneti" ele geçirebileceği fikrini ortaya attığı uyarısını daha da detaylandırdı.
Kıyamet senaryosuna karşı çıkan siber güvenlik uzmanları, modellerin verimli bir şekilde hareket edemeyecek kadar büyük olacağını ve bağımsız olarak çalışmak için yeterli bilgisayar gücünden yararlanamayacağını savundu.
Söz konusu gönderi, bu zorlukların nasıl aşılabileceğini ortaya koymak adına erken bir girişimde bulundu. Şirket, deneylerinin 30 milyar parametreye veya daha azına sahip orta büyüklükteki yapay zeka modellerinin, tüm süreci güvenilir bir şekilde tamamlamakta zorlansalar bile, kendi kendini kopyalama için gereken bireysel görevlerin birçoğunu şimdiden gerçekleştirebildiğini gösterdi.
Anthropic, modellerin daha sonra ucuz internet bağlantılı cihazları ele geçirerek gerekli hesaplama gücünü bir araya getirebileceğini belirtti. Şirket ayrıca modellerin basitleştirilmiş bir test ağı genelinde kendilerini kopyalayabildiğini ekledi.
Şirket, "Böyle bir kopyalayıcının kapatılması zor olacaktır, çünkü kapatılacak merkezi bir nokta yoktur" açıklamasında bulundu.
Bu rapor, yapay zekanın siber saldırıları otomatikleştirme, sınırlı insan denetimiyle çalışma ve güvenlik önlemlerini aşma potansiyeli de dahil olmak üzere, giderek daha yetenekli hale gelen yapay zeka sistemlerine bağlı güvenlik risklerine yönelik daha geniş çaplı kaygılara bir yenisini ekliyor.
Modellerdeki bu ilerlemeler, endüstri liderleri ve yapay zeka şirketi çalışanları arasında, kontrolden çıkan yapay zeka gelişiminin ciddi, hatta varoluşsal riskleri olasılığına dair bir dizi genellikle vahim uyarılara yol açtı.
Bazı siber güvenlik uzmanları ise durum karşısında şüpheciydi.
İngiltere Ulusal Siber Güvenlik Merkezi'nin eski başkanı Ciaran Martin, "Ucuz televizyonlarda küçük bir modeli çalıştırmayı başardık' demek bir güvenlik krizi yaratmaz" dedi. Martin, gönderinin "satıcı abartısının ipuçlarını fazlasıyla barındıran ilginç bir teknik makale" gibi göründüğünü belirtti.
Colorado Denver Üniversitesi Bilgisayar Bilimleri ve Mühendisliği Yardımcı Profesörü Zhengxiong Li, testlerin kontrollü koşullarda yapılmış olmasına rağmen, yapay zekanın cihazları anında ele geçirmenin yollarını doğaçlama yapabilen, kendi kendini kopyalayan bir program yani fiilen bir "solucan" (worm) haline gelebilmesini hâlâ endişe verici bulduğunu söyledi.
Li, "Merkezi bir servise bağlı kalmadan birçok cihazda çalışırsa, onu kapatacak tek bir yer olmayabilir" dedi.
Anthropic, daha küçük modellerin tarihsel oranlarında gelişmeye devam etmesi durumunda, 2026'nın sonuna kadar otonom kopyalama için gereken yeteneğe ulaşabileceğini belirtti. Şirket ayrıca modellerin, çok daha büyük bilgisayar gücü havuzlarından yararlanmalarını potansiyel olarak sağlayabilecek veri merkezi işlemcileri de dahil olmak üzere daha güçlü bilgi işlem kaynaklarını hedeflemenin yollarını bulabileceği fikrini de ortaya attı.
Bir araştırmacı, Anthropic'in gönderisini bir öngörüden ziyade hipotez olarak ele almanın daha mantıklı olduğunu ifade etti.
Bu durumu değerlendirmek mantıklıydı