13 Ekim : Anthropic Pazartesi günü yaptığı açıklamada, deneylerinin küçük yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari nesnelerin interneti (IoT) cihazlarında kendi kopyalarını üretme yeteneğine kavuşmasına aylar kalmış olabileceğini gösterdiğini belirtti.
• Yaptığı deneylerde Anthropic, yapay zeka modellerinin savunmasız cihazları bulup bulamayacağını, kendilerini bu cihazlara kopyalayıp kopyalayamayacağını ve insan yardımı olmadan yayılmaya devam edip edemeyeceğini inceledi.
• Şirket, 30 milyar parametrenin altındaki küçük modellerin kopyalama için gereken birçok adımı tamamlayabildiğini tespit etti.
• Bununla birlikte şirket, bu tür yapay zeka modellerinin tüm diziyi baştan sona tamamlamakta da zorlandığını gördü.
• Bazı güvenlik adımlarının kaldırıldığı basitleştirilmiş testlerinde Anthropic, GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama kapasitesine sahip olduğunu buldu.
• Kopyalama yapan modelleri kapatmanın zor olacağını çünkü merkezi bir kapatma noktasının bulunmadığını ve yapay zeka dışı kötü amaçlı yazılımların aksine, veri merkezi işlemcilerini hedef alarak yabancı cihazları kendi başlarına çözebileceklerini Anthropic uyardı.
• Şirket, araştırmasında Android TV'ler, akıllı ev aletleri ve diğer internet bağlantılı cihazlar gibi tipik olarak zayıf korunan IoT cihazlarına odaklandı.
• Önemli yapay zeka şirketi ayrıca, küçük modellerin geçmişteki oranlarında gelişmeye devam etmesi durumunda, bu yılın sonuna kadar otonom olarak kopyalama yapabileceklerini ve küçük ağırlık tabanlı kopyalayıcıların kısa süre sonra bunları takip edeceğini uyardı.
• Anthropic ayrıca bu tür otonom yapay zeka sistemlerinin yavaşça kopyalanmasının ve yaygın olarak bulunan, nispeten güvensiz bilgi işlem kaynaklarına güvenmesinin muhtemel olduğunu söyledi. Şirket, bu tür yapay zeka ajanlarının yayılmasını zorlaştırmak için sistemlerin güçlendirilmesi gerektiğini ekledi.