Yapay zekadaki hızlı ilerlemelerin yarattığı riskler üzerine yoğunlaşan tartışmaların ortasında, açık ağırlıklı ekosisteme hakim olan Çinli geliştiriciler benzersiz bir sorunla boğuşuyor: Kullanıcı tarafından değiştirilebilen modellerinin yayınlandıktan sonra nasıl güvenli kalmasını sağlayacakları.
Bu zorluğun üstesinden gelmek için Z.ai ve Pekin merkezli güvenlik danışmanlığı Concordia AI, Pazartesi günü açık ağırlıklı yapay zeka risk yönetimi konusunda bir rapor yayınladı. Raporun, açık ağırlıklı sistemlerin riskleri ile faydalarını dengelemek için "ilk kapsamlı, kanıta dayalı temeli" sunduğu belirtildi.
OpenAI ve Anthropic gibi ABD'li lider laboratuvarların tescilli yazılımlarının aksine açık ağırlıklı modeller; eğitilmiş parametrelerinin –özellikle yapay zekanın "beyinlerinin"– internetteki herkes tarafından özgürce indirilmesine, değiştirilmesine, ince ayar yapılmasına ve bağımsız olarak çalıştırılmasına olanak tanır.
"Ön Uç Açık Ağırlıklı Yapay Zeka Risk Yönetimi Çerçevesi" başlıklı raporda, yaratıcıların yayın sonrasında kontrolden kalıcı olarak vazgeçmeleri, kullanıcı etkinliğini izleme veya kötüye kullanım durumunda fişi çekme yeteneklerini kaybetmeleri nedeniyle güvenlik kontrollerinin geliştirmenin en erken aşamalarına "yukarı akışa" taşınması gerektiği belirtildi.
Rapor; risk belirleme, eşik belirleme, analiz, değerlendirme, azaltma ve yönetişimi kapsayan altı aşamalı bir yaşam döngüsü yönetim süreci önerdi.
Koruma önlemlerinin başında, raporun "mevcut en güçlü savunma katmanlarından biri" olarak vurguladığı eğitim verilerinin küratörlüğü geldi. Yazarlar, sistemlerin silaha dönüştürülmesini önlemek için geliştiricileri, modeller yayınlanmadan önce tehlikeli materyallerin eğitim veri setlerinden filtrelenmesi gibi güvenlik öncesi eğitimleri benimsemeye çağırdı.
Bu rapor, yapay zekanın güvenliği konusunda artan küresel endişelerin ortasında geldi. Cumartesi günü OpenAI, otonom ajanların öngörülemez şekilde hareket ettiği ve harici sistemleri hacklediği bir dizi olayın ardından yeni nesil tescilli modelleri üzerindeki eğitimi askıya almıştı.
Bulgular aynı zamanda Çinli teknoloji firmaları ve düzenleyicilerin, açık ağırlıklı yapay zeka geliştirme süreçlerinde şeffaflığı artırmak ve yönetişimi güçlendirmek için yürüttüğü daha geniş çaplı hamleyle de uyum gösteriyor.
Geçtiğimiz hafta Xiaomi, öncü MiMo-V2.6 modellerinin pekiştirmeli öğrenme sürecini canlı yayınlayarak benzeri görülmemiş bir adım atmıştı. Milyonlarca dolarlık hesaplama maliyetlerini, hata günlüklerini ve tam eğitim verisi karışım oranlarını gösteren gerçek zamanlı bir kontrol panelini yayınlayan şirket, Amerikan rakiplerinin tipik gizli, kara kutu uygulamalarıyla keskin bir kontrast oluşturdu.
Anakara Çin'de Zhipu olarak bilinen Z.ai, bir güvenlik olayının ardından geçen hafta kodlama asistanı ZCode'u açık kaynaklı hale getirme planlarını duyurmuştu. Kullanıcıların ZCode'un yerel çalışma alanı verilerini rıza dışı harici sunuculara yüklediğini keşfetmesi üzerine şirket tepkiyle karşılanmıştı. Z.ai o zamandan beri bir özür yayınladı ve araç taban kodunu incelemesi için üçüncü taraf denetçileri davet edeceğine söz verdi.
Bu tür kurumsal hamleler, 14 Eylül'de ulusal bir "Yapay Zeka Güvenliği Yönetişim Çerçevesi" sunarak daha sıkı güvenlik protokolleri ve uluslararası iş birliği çağrısında bulunan Pekin'in daha geniş çaplı düzenleme hamlesinin ortasında geldi.
Maliyet açısından verimli Çin sistemleri Amerikan tescilli modellerinin hakimiyetine meydan okurken, açık ağırlıklı modeller ABD ile Çin arasındaki teknoloji yarışında giderek birincil bir savaş alanına dönüşüyor.
Temmuz ayında Moonshot AI'nın Kimi K3 modeli, birkaç önemli kıstasta en iyi kapalı kaynaklı ABD sistemleriyle eşleşmesi veya bunları geride bırakmasıyla manşetlere çıkmıştı. Xiaomi'nin MiMo-V2.6-Pro, Alibaba Group Holding'in Qwen3.8-Max ve Z.ai'nin GLM-5.3 gibi diğer Çin sistemleri de o zamandan beri San [metin burada kesilmektedir]