Çin’in giderek güçlenen açık ağırlıklı yapay zeka modelleri bir siber güvenlik tehdidi mi, yoksa bu modelleri kısıtlamak interneti nihayetinde daha az güvenli hale mi getirecek?
South China Morning Post'un sahibi olan Alibaba Group Holding, DeepSeek ve Z.ai gibi Çinli geliştiricilerin, herkesin indirebileceği, değiştirebileceği ve konuşlandırabileceği modeller yayınlayarak Amerikalı rakiplerine meydan okumaya devam etmesiyle bu ikilem giderek artan bir endişe kaynağı haline geldi.
Gelişmiş yapay zekanın küresel siber güvenlik üzerindeki artan etkisi, dünya genelindeki hükümetleri ve siber güvenlik ajanslarını dijital savunmalarını güçlendirmek için harekete geçmeye zorladı; bu haftaki PHP internet programlama dilindeki kritik güvenlik açıklarının ortaya çıkarılması bunun en son örneği oldu.
Eleştirmenler, açık ağırlıklı modellerin kötü niyetli aktörlerin güvenlik korumalarını kolayca kaldırmasına ve gelişmiş yapay zekayı sofistike siber saldırılar başlatmak için kullanmasına olanak tanıdığı konusunda uyarıyor. Ancak diğer araştırmacılar, aynı teknolojinin, ortaya çıkan tehditlere karşı koymak için yapay zeka sistemlerinin siber savunma yeteneklerinin daha geniş bir alana yayılmasına yardımcı olabileceğini savunuyor.
Tartışma, ABD merkezli yapay zeka girişimi Anthropic'in, Z.ai'nin açık ağırlıklı GLM-5.3 modelinin, kendi Claude modellerine benzer şekilde sofistike siber saldırılar gerçekleştirme konusunda kritik eşikleri aştığını, ancak Claude modellerinin kapalı kaynaklı olması sayesinde mümkün olan güvenlik önlemlerinden yoksun olduğunu tespit eden bir raporunun ardından yoğunlaştı.
Yine de araştırmacılar, açık ağırlıklı yapay zeka ile ilişkili teknik risklerin gerçek dünyada daha büyük bir zarara dönüşüp dönüşmediği ve açık ile kapalı modeller arasındaki ayrımın tehlikelerini değerlendirmek için doğru yol olup olmadığı konusunda bölünmüş durumda.
MATS Research'te Çin'in yapay zeka inovasyonu ve yönetişim stratejileri üzerine odaklanan araştırmacı Kristy Loke, "Açık modeller, kapalı modellere göre farklı yönetişim zorlukları sunuyor, ancak bu durum onları mutlaka daha tehlikeli yapmıyor" dedi.
Açık ağırlıklı modeller, doğası gereği kötüye kullanım için daha geniş bir saldırı yüzeyine sahiptir.
Edward Yee, Yapay Zeka Güvenlik Araştırmacısı
Açıklığın riskleri
Tartışmanın merkezinde, geliştiricilerin teknolojilerini nasıl kontrol ettiklerine dair temel bir fark yatıyor.
Kapalı modeller genellikle uygulama programlama arayüzleri (API'ler) aracılığıyla erişilir; bu da geliştiricilerin şüpheli etkinlikleri izlemesine, istekleri kısıtlamasına ve gerektiğinde erişimi iptal etmesine olanak tanır.
Buna karşılık açık ağırlıklı modeller, kullanıcıların temel parametreleri indirmesine ve sistemleri bağımsız olarak çalıştırmasına olanak tanır, ancak bu aynı zamanda kötü niyetli aktörlerin zararlı faaliyetleri önlemek için tasarlanmış korumaları kaldırabileceği anlamına gelir.
ABD merkezli yapay zeka güvenlik kuruluşu Far.AI'da araştırmacı ve büyümeden sorumlu başkan olan Edward Yee, açık ağırlıklı yapıların önemli bir güvenlik dezavantajı yarattığını söyledi. Yee, "Açık ağırlıklı modeller doğası gereği kötüye kullanım için daha geniş bir saldırı yüzeyine sahiptir" dedi.
Kapalı modeller harici izleme sistemleri gibi çok katmanlı korumalara güvenebilirken, açık ağırlıklı modeller öncelikle modellerin içine yerleştirilmiş korumalara bağlıdır; bunlar genellikle, bir modelin reddetme mekanizmalarını atlatmak için iç ağırlık matrislerini düzenlemeyi içeren "abliteration" gibi tekniklerle kaldırılabilir.
Açık ağırlıklı modeller geniş çapta yayınlandığı için, geliştiriciler daha sonra tehlikeli yetenekler keşfetseler bile model ağırlıkları etkili bir şekilde geri çağrılamaz. Yee, bu nedenle saldırganların, orijinal geliştiricilerin uyguladığı korumalar olmaksızın modellere sınırsız erişim sağlayabileceğini belirtti.
Açık ağırlıklı modeller en gelişmiş kapalı sistemlerin yeteneklerine yaklaştıkça, bunun sonuçları daha ciddi hale gelebilir.