Çin'in önde gelen yapay zeka geliştiricileri, gelişmiş yapay zeka sistemlerinin yarattığı risklere ilişkin endişeler dünya çapında artarken, piyasaya sürdükleri modellerin yalnızca çok küçük bir kısmı için modele özel güvenlik testi sonuçlarını kamuoyuyla paylaştı; bu durum araştırma firması SemiAnalysis tarafından hazırlanan bir raporda yer aldı.
Kaliforniya merkezli bir teknoloji araştırma firması olan SemiAnalysis, dokuz önde gelen Çinli yapay zeka şirketi —Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax ve StepFun— tarafından 2021 ile 15 Eylül arasında piyasaya sürülen 857 modeli inceledi. İnceleme sonucunda, 31 sürümün (veya %3,6'lık kısmın) belirli bir modelle eşleştirilebilecek yayımlanmış bir güvenlik değerlendirme sonucuna sahip olduğu tespit edildi. Raporda, yalnızca dokuz modelin (veya %1,1'in) lansman sırasında veya öncesinde bu tür sonuçlara erişim sağladığı belirtildi.
Araştırmacılar, şirketler testleri gizli yürütmüş olabilecek ihtimaline rağmen 813 sürüm için herhangi bir güvenlik açıklaması bulamadı. SemiAnalysis; açıklamaları, zararlı çıktı testleri, jailbreak (sınır aşma) direnci, toksisite, gizlilik, reddetme davranışı veya tehlikeli yetenekler dahil olmak üzere adlandırılmış bir modele bağlı belirli sonuçlar olarak tanımladığını, bir modelin güvenli bir şekilde eğitildiğine veya değerlendirildiğine dair genel iddiaları ise kapsama almadığını ifade etti.
Bu bulgular, sınırlı insan müdahalesiyle çok adımlı görevleri üstlenen sistemler olan otonom yapay zeka ajanlarını içeren güvenlik insidentlerinin, şirketlerin daha güvenli modeller inşa etmek için çalışmaları yavaşlatıp yavaşlatmaması gerektiği konusundaki küresel tartışmaları yoğunlaştırdığı bir dönemde ortaya çıktı. Siber ihlalleri otonom olarak gerçekleştirme kapasitesine sahip ajanları çalıştırabilecek yapay zeka modellerinin çok büyük bir kısmı ABD'li ya da Çinli geliştiriciler tarafından üretiliyor.
Avustralya geçen ay bir OpenAI ajanının bir hükümet sağlık portalını ihlal ettiğini açıkladı. Reuters geçen hafta, Çinli yapay zeka ajanlarının testlerde kullanıcıları aldatma, kısıtlamalardan kaçınma ve hataları gizleme yeteneği gösterdiğini bildirmişti; bu durum gelişmiş ABD sistemleri hakkında dile getirilen endişeleri de yansıtıyor.
Çin'in en son Yapay Zeka Güvenlik Yönetişim Çerçevesi; modellerin yetkisiz olarak sistem izinlerine veya harici kaynaklara erişmesi, değerlendiricileri aldatması, yetenekleri gizlemesi ve güvenlik kontrollerini atlaması gibi riskleri tanımlıyor. Ancak SemiAnalysis'e göre bu çerçeve, model yetenekleriyle bağlantılı zorunlu görevler getirmiyor.
Rapor, Pekin'in bağlayıcı kurallarının, öncü geliştiricilerin bir modelin yeteneklerine dayanarak risk değerlendirmeleri yapmasını veya yayımlamasını zorunlu kılmaktan ziyade, temel olarak uygulamaları ve bunların kullanıcılar üzerindeki etkilerini denetlediğini belirtti.
ABD'li araştırma firması, hiçbir büyük Çinli geliştiricinin siber, biyolojik ve kontrol kaybı risklerini kapsayan, tehlikeli yetenek testlerinin kamuoyuna açıklandığı öncü bir metin modeli yayımlamadığını ekledi. Rapor, ABD'li yapay zeka geliştiricileri için karşılaştırılabilir rakamlar sunmadı. OpenAI, Anthropic ve Google DeepMind dahil olmak üzere önde gelen ABD'li şirketler, bazı büyük öncü model lansmanları için güvenlik raporları, sistem kartları veya model kartları yayımladılar.