ABD'li yapay zeka devi Anthropic, Çinli Z.ai firmasının GLM-5.3 adlı açık ağırlıklı modelinin güçlü siber saldırı yetenekleri ile zayıf güvenlik kısıtlamalarının endişe verici bir karışımını sergilediğini belirterek, modelin oluşturabileceği potansiyel tehlikeye karşı uyardı.
San Francisco merkezli şirkete göre GLM-5.3, siber yetenekler açısından Anthropic'in en gelişmiş modeline neredeyse denk durumda, ancak çok daha zayıf korumalara sahip; bu da modelin kötü niyetli aktörler tarafından ele geçirilme potansiyelini artırıyor.
Salı günü yayınlanan bir raporda Anthropic, GLM-5.3'ün uçtan uca siber istismarlar inşa etme yeteneğini test ettiğini belirtti. Çinli model, yalnızca güvenlik taramasından geçmiş kullanıcılar tarafından kullanılabilen gelişmiş bir Anthropic modeli olan Claude Mythos Preview'un 56 siber saldırı girişimine karşılık, 410 denemeden 50'sini başarıyla tamamladı.
Mythos'un aksine, GLM-5.3 açık ağırlıklı bir modeldir; yani kullanıcılar temel modeli özgürce indirip değiştirebilirler. Anthropic, testler sırasında "saldırganların, basit tekniklerle GLM-5.3'ün korumalarını yüzde 64 ila 100 oranında atlayabildiğini", buna karşın güvenlik önlemleri alınmış Claude modellerine karşı bu atlatma girişimlerinin "başarılı olamadığını" tespit etti.
Rapora göre, Anthropic araştırmacıları, zararlı talepleri reddetme eğilimini bastırmak için modelin dahili ağırlık matrislerinin düzenlenmesini içeren "ablasyon (abliteration)" tekniği ile Z.ai modelinin reddetme mekanizmalarını kaldırmayı başardılar.
Anthropic, ablasyon gerçekleştirerek test etmek için yaklaşık 2.200 GPU saati (2.200 grafik işlem biriminin bir saat boyunca çalıştırılmasına eşdeğer) harcadıktan sonra, GLM-5.3'ün reddetme oranının üç güvenlik kıstasında yüzde 90'ın üzerinden yüzde 2 ila 12 arasına düştüğünü belirtti.
Sabitleme işlemini gerçekleştirmek için gereken hesaplama gücünün maliyeti kabaca 4.400 ABD doları tuttu; ancak Anthropic, deneyimli bir ekibin böyle bir girişimi gerçekleştirmek için yalnızca 1.200 ABD dolarına ihtiyaç duyabileceğini ekledi.
Zhipu AI olarak da bilinen Z.ai, iddialara hızla karşı çıktı. Çinli şirketin küresel operasyonlar müdürü Li Zixuan, Anthropic'in bulgularını yayınlamasından saatler sonra X'te yaptığı bir paylaşımda, Z.ai modellerinin şirketler tarafından siber saldırılara karşı kendilerini savunmak için yaygın olarak kullanıldığını belirtti.
Temmuz ayında geliştirici platformu Hugging Face, Anthropic'in Claude modeli güvenlik önlemleri nedeniyle güvenlik çalışmalarının bazı kısımlarını reddettikten sonra, OpenAI modelleri tarafından gerçekleştirilen otonom bir sızmayı araştırmak ve kontrol altına almak için GLM-5.2'yi kullanmıştı.
Li, GLM-5.3'ün halihazırda "şimdiye kadar tespit edilen 4.249 potansiyel açığı bulunan 389 açık kaynaklı projenin savunulmasına yardımcı olduğunu" söyledi.
Bu rapor, ABD'de açık ağırlıklı modellerin avantajları ve potansiyel tehlikeleri hakkındaki daha geniş bir tartışmayı beslerken, Anthropic en gelişmiş modellere erişim üzerinde daha sıkı kontrol savunuculuğu yapıyor.
Meta Platforms ve Nvidia dahil diğer ABD'li teknoloji devleri, daha geniş erişimin inovasyonu hızlandırabileceğini ve ABD'nin yapay zekadaki liderliğini korumasına yardımcı olabileceğini savunarak açık modelleri destekledi.
Özellikle Çin Devlet Başkanı Xi Jinping ile mevkidaşı Donald Trump arasında yeni sonuçlanan görüşmenin öncesinde, son haftalarda yapay zeka güvenliği tartışmaları kızıştı.
Pekin ve Washington zirve sırasında teknolojinin riskleri ve faydaları hakkında fikir alışverişinde bulunmak için resmi bir yapay zeka diyalog mekanizması kurma konusunda anlaşırken, Trump salı günü yaptığı açıklamada Çin ile yapay zeka güvenliği konusunda çalışmak istemediğini söyledi.
En gelişmişleri tamamen açık ağırlıklı olan Çinli yapay zeka modelleri, siber yeteneklerini hızla geliştiriyor.
Z.ai, Ağustos ayında GLM-5.3'ü piyasaya sürdüğünde, şirketin önemli bir siber güvenlik testinde Anthropic’in Mythos 5 modelini yendiğini belirtmişti. Pekin merkezli b