Yapay zeka güvenliğine dair endüstrinin kaygıları artmaya devam ederken, Anthropic bir başka potansiyel riski daha gündeme taşımaya hazırlanıyor. Claude modelinin geliştiricisi şirket, Pazartesi günü (12 Ekim) yaptığı açıklamada, yapay zeka modellerinin tarihsel gelişim hızlarını sürdürmeleri halinde 2026 yılı sonuna kadar internet genelinde otonom bir şekilde kendilerini kopyalama yeteneği kazanabileceği konusunda uyardı.\n\nX platformunda (eski adıyla Twitter) yapılan bir paylaşımda Anthropic, sözde 'başıboş' veya yanlış hizalanmış bir ajan sürüsünün bir botnet (zombi ağ) kurabileceğini, hızla yayılabileceğini, engelleme girişimleriyle mücadele edebileceğini ve büyümesini hızlandırmak için veri merkezlerine bile sızabileceğini öne sürdü. Yapay zekanın kalıcı bir botnet ile \"tüm interneti\" ele geçirebileceği fikri, ilk olarak geçen ay Anthropic CEO'su Dario Amodei tarafından dile getirilmişti. Şirketin son paylaşımı, Amodei’nin görüşlerini teyit ediyor ve bunun nasıl gerçekleşebileceğini açıklamaya çalışıyor.\n\nÖrneğin Anthropic, modellerin veri merkezi işlemcileri de dahil olmak üzere daha güçlü bilişim kaynaklarını hedeflemenin yollarını bulabileceğini, bunun da potansiyel olarak çok daha büyük bilgisayar gücü havuzlarından yararlanmalarını sağlayabileceğini öne sürdü. Anthropic'in bu uyarısı, giderek daha yetenekli hale gelen yapay zeka sistemlerine bağlı güvenlik kaygılarının zirve yaptığı bir dönemde geldi; zira yapay zeka ajanları siber saldırıları otomatikleştirebileceklerini, sınırlı insan denetimiyle çalışabileceklerini ve koruma önlemlerini atlatabileceklerini kanıtlıyor.\n\nYapay zeka ajanları tarafından yönlendirilen bir dizi hacking (sızma) olayı, sektör liderleri ve yapay zeka şirketi çalışanlarından, kontrolden çıkan yapay zeka gelişiminin ciddi, hatta varoluşsal riskler barındırabileceğine dair art arda gelen vahim uyarıları tetikledi. Geçtiğimiz ay, eski Anthropic araştırmacısı Jacob Coxon, yapay zekanın on yıldızın sonuna kadar insanlığın sonunu getirebileceği endişesiyle işinden ayrıldığını açıkladıktan sonra manşetlere çıkmıştı. (Ayrıca Bkz: NYC Konseyi'nin yapay zeka riskleri konulu duruşması: Jacob Coxon ve diğerleri politikacılara neler aktardı?)\n\nBununla ver bazı uzmanlar aynı endişe seviyesini paylaşmıyor ve modellerin verimli bir şekilde hareket edemeyecek kadar büyük olacağını, ayrıca bağımsız olarak çalışmak için yeterli bilgi işlem gücüne (compute) erişemeyeceğini savunarak kıyamet senaryolarına karşı çıkıyor. Bu uzmanlardan bazıları Anthropic'in \"satıcı abartısına\" (vendor exaggeration) başvurduğunu ifade ederken, birkaçı da Anthropic’in kendini kopyalama uyarısını bir öngörüden ziyade hipotez olarak ele almayı tercih ettiğini belirtti.\n\nAnthropic başka neler söyledi? Yapay zeka şirketi, yürüttüğü deneylere dayanarak, 30 milyar veya daha az parametreye sahip orta ölçekli yapay zeka modellerinin, tüm süreci güvenilir bir şekilde tamamlama konusunda zorlansalar bile, kendi kendine kopyalama için gereken bireysel görevlerin birçoğunu şimdiden gerçekleştirebildiğini belirtti. Modeller daha sonra, hipotez olarak, internete bağlı ucuz cihazları ele geçirerek gerekli bilişim gücünü bir araya getirebilirdi.\n\nŞirket, \"Merkezi bir kapatma noktası bulunmadığından, böyle bir çoğaltıcıyı (replicator) durdurmak zor olurdu\" açıklamasında bulundu. Yapay zeka modellerinin bu şekilde kendini kopyalayıp kopyalanamayacağını görmek için Anthropic birkaç test gerçekleştirdi. Bu testlerden biri, küçük bir Google modeli olan Gemma4-26B-A4B'yi, markasız 15 adet Android TV kutusundan oluşan bir ağ üzerinde çalıştırmayı içeriyordu. Modellerin basitleştirilmiş bir test ağı üzerinde kendilerini kopyalayabildiği tespit edildi. (Ayrıca Bkz: Anthropic çalışmasına göre yapay zeka modelleri diğer modelleri eğitmede daha becerikli hale geliyor)\n\nAnthropic, \"Uygulamada, bir yapay zeka solucanı (worm) mutlaka tek bir modelden veya stratejiden ibaret olmayacaktır. Farklı donanım türleri üzerine konuşlandırılmış ve çeşitli çoğaltma şemaları kullanan farklı modellerden oluşan bir sürü, daha gerçekçi bir 'en kötü senaryo' saldırısını temsil edebilir\" değerlendirmesinde bulundu. Şirket açıklamasını şu sözlerle tamamladı: \"Deneylerimizin ötesine geçen bir öngörü olarak, gelecekte bizi nelerin beklediğini...
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.