Çinli yapay zeka şirketleri, teknoloji açığını kapatmak için ABD modellerini gizlice mi kullandı? Bu soru, Washington ve Amerikalı yapay zeka laboratuvarı Anthropic'ten gelen bir dizi suçlamanın ardından Çin'in teknoloji sektörünün üzerinde asılı duran merkezi soru niteliğinde.
Ulusal Güvenlik Ajansı (NSA), FBI ve Siber Güvenlik ve Altyapı Güvenliği Ajansı'nın geçen ay yayınladıkları ortak bir uyarıya göre, Çinli yapay zeka geliştiricileri kendi bilgi işlem, elektrik ve araştırma maliyetlerini düşürmek için ABD'nin sınır modellerindeki yetenekleri sistematik olarak çıkarıyor.
ABD Hazine Bakanı Scott Bessent de temmuz ayında benzer bir uyarıda bulunarak Çinli firmaların büyük ölçekli bir "damıtma" (distillation) faaliyeti içinde olduğunu belirtmişti.
Özellikle Anthropic, Çinli yapay zeka geliştiricilerinin amiral gemisi modeli Claude'dan akıl yürütme verilerini hortumlamak için sahte hesaplar ve proxy ağları kullandığını –ve bazı durumlarda ABD modelini kendi uygulamaları için gizli bir arka uç olarak bile kullandığını– iddia etti.
İşte suçlamaların ne ölçüde geçerli olduğuna ve Pekin'in bu iddiaları neden ciddiye aldığına dair yakından bir bakış.
Anthropic'in suçlamaları neler?
Anthropic, Çinli geliştiricileri, daha yetenekli bir "öğretmen" modelin çıktılarının başka bir modeli geliştirmek için kullanıldığı bir teknik olan "endüstriyel ölçekte damıtma" gerçekleştirmekle suçladı.
Model damıtma yapay zeka endüstrisinde yaygın bir uygulama olsa da Anthropic, Çinli firmaların etik sınırları aştığını öne sürdü. Şirket tarafından geçen ay yayınlanan bir rapora göre Çinli laboratuvarlar, Claude'un çıktılarını ve akıl yürütme izlerini büyük ölçekte toplamak için sahte hesaplar ve üçüncü taraf proxy servisleri aracılığıyla kullanım kısıtlamalarını by-pass etti.
Anthropic, Moonshot'ın sadece 10 gün içinde çoğunluğu Opus modeline olmak üzere yaklaşık 300.000 kullanıcı isteği yönlendirdiğini bildirdi. Anthropic, Çinli şirketin büyük kısmı Singapur ve Japonya merkezli 5.380 sahte hesaptan oluşan bir proxy ağı kullandığını iddia etti.
Buna ek olarak Anthropic, bazı şirketlerin Claude'u gizli bir arka uç olarak kullandığını öne sürdü. Şirket, bunun kullanıcıların sorguları aslında ABD'li firmanın sunucuları tarafından işlenirken yerli bir Çin modeliyle etkileşime girdiklerini sandıkları anlamına geldiğini belirtti.
Moonshot, yorum talebine yanıt vermedi.
Kanıtlar ne kadar güçlü?
Endüstri analistleri, Anthropic'in bulgularının güvenilirliği ve faillerin tespiti konusunda bölünmüş durumda.
Washington merkezli Teknoloji ve Devlet Sanatı Merkezi'nin kurucu ortağı ve üyesi Konstantin Pilz, iddiaların ABD çip ihracatı kısıtlamalarıyla karşı karşıya kalan Çinli geliştiriciler üzerindeki yoğun baskıyı yansıttığına dikkat çekerek bunları inandırıcı buldu.
Pilz, "Yapay zeka model performansında daha fazla geri kalmamak için Çinli yapay zeka şirketlerinin büyük ölçekte düşmanca damıtma kullanması gerekiyor" diyerek damıtmanın yerel geliştiricilerin pahalı akıl yürütme verisi üretimini atlamasına olanak tanıdığını belirtti.
Yeni Bir Amerikan Güvenliği Merkezi'nde (CNAS) araştırma görevlisi olan Ben Hayum, Anthropic'in damıtma saldırılarını tespit edip bunlara atıfta bulunabilecek tehdit istihbaratı sinyallerini uzun süredir toplama yeteneğine sahip olduğunu söyledi.
Ancak diğer uzmanlar, doğrudan Çinli yapay zeka şirketlerini suçlamanın her zaman o kadar basit olmadığını savundu.
Brookings Enstitüsü'nde araştırmacı olan Kyle Chan, üçüncü taraf proxy servislerinin -veya "aktarım istasyonlarının"- asıl suçlular olabileceğini belirtti. Bu proxy'lerin, Çinli yapay zeka laboratuvarlarının doğrudan katılımı olmadan akıl yürütme verisi elde etmek ve satmak için kullanıcı isteklerini gizlice Claude'a yönlendirmiş olabileceğini ifade etti.
Şenzen merkezli ve büyük dil modelleri ile somutlaştırılmış zekaya odaklanan JG Investment'ın yatırım yöneticisi Wang Zebin, Anthropic'in raporunu belirttiği