13 Ekim (Reuters) - Anthropic Pazartesi günü yaptığı açıklamada, yürüttüğü deneylerin, küçük yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari Nesnelerin İnterneti (IoT) cihazları üzerinde kendi kopyalarını üretme (self-replicate) yeteneğine kavuşmaya aylar uzaklıkta olabileceğini gösterdiğini belirtti.
• Anthropic, gerçekleştirdiği deneylerde yapay zeka modellerinin savunmasız cihazları bulup bulamayacağını, kendilerini bu cihazlara kopyalayıp kopyalayamayacağını ve insan yardımı olmadan yayılmaya devam edip edemeyeceğini inceledi.
• Araştırma, 30 milyar parametrenin altındaki küçük modellerin, kopyalama için gereken birçok adımı tamamlayabildiğini ortaya koydu.
• Bununla birlikte firma, bu tür yapay zeka modellerinin baştan sona tüm diziyi tamamlamakta zorlandığını da tespit etti.
• Bazı güvenlik adımlarının kaldırıldığı basitleştirilmiş testlerde Anthropic, GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama kapasitesine sahip olduğunu buldu.
• Anthropic, kopyalama yeteneğine sahip modellerin merkezi bir kapatma noktasının bulunmaması ve yapay zeka dışındaki zararlı yazılımlardan (malware) farklı olarak veri merkezi işlemcilerini hedef alarak yabancı cihazları kendi başlarına çözebilmeleri nedeniyle durdurulmasının zor olacağı konusunda uyardı.
• Firma araştırmasında, tipik olarak zayıf korunan Android TV'ler, akıllı ev aletleri ve internet bağlantılı diğer cihazlar gibi IoT cihazlarına odaklandı.
• Önde gelen yapay zeka şirketi ayrıca, küçük modellerin tarihsel oranlarında gelişmeye devam etmesi durumunda, bu yılın sonuna kadar otonom olarak kendi kopyalarını üretebilecek duruma geleceğini ve küçük ağırlık tabanlı kopyalayıcıların da yakında bunları takip edeceğini uyardı.
• Anthropic, bu tür otonom yapay zeka sistemlerinin yavaşça çoğalmasının ve yaygın olarak bulunan, nispeten güvensiz bilgi işlem kaynaklarına güvenmesinin muhtemel olduğunu belirtti. Şirket ayrıca, bu tür yapay zeka ajanlarının yayılmasını zorlaştırmak için sistemlerin güçlendirilmesi gerektiğini ekledi.