Çinli üretken bir siber güvenlik araştırmacısı olan Yuki Chen, ülkenin yapay zeka sektörünün teknolojinin küresel siber uzay üzerindeki artan etkisiyle boğuştuğu bir dönemde, önde gelen yapay zeka modeli şirketi Z.ai'ye katıldı.
Chen'in bu göreve gelmesi, Çinli teknoloji devi Tencent Holdings ile ABD'li girişimler OpenAI ve Anthropic'i içeren son vakalar da dahil olmak üzere, yapay zeka destekli siber saldırılara ve talimatlarının dışına çıkan otonom ajanlara yönelik artan endişelerin ortasında gerçekleşti.
Z.ai'ye geçişini duyuran bir sosyal medya paylaşımında geçen hafta "Yeni yolculuk, yeni misyon!" diye yazan Chen, "Öncü yapay zekanın gücüyle daha güvenli bir siber uzay inşa etmeye yardımcı olma fırsatı için heyecanlı ve minnettarım" ifadelerini kullandı.
Z.ai'den yapılan açıklamada, "Guhe" lakabıyla da bilinen Chen'in, şirketin amiral gemisi GLM modellerini kullanarak Microsoft'un Windows işletim sistemindeki 23 siber açığı son zamanlarda ortaya çıkardığı ve ABD'li teknoloji devinin de bu keşifleri onayladığı belirtildi.
Şirket açıklamasında, "[Chen'in] onlarca yıllık açıkları araştırma deneyimi, topluluğun GLM ile daha güvenli bir siber uzay inşa etmesine yardımcı oldu ve yardım etmeye devam edecek" denildi.
Söz konusu duyuruda, 23 açığın tespit edilmesinde ne ölçüde insan müdahalesi olduğu veya modelin katkısının boyutu hakkında ayrıntı verilmedi.
Kamudaki profillerine göre, Çin'in en efsanevi sivil "hacker"larından biri olan Chen, hem yazılım hem de donanım sistemlerinde siber açıklar bulma konusunda 15 yılı aşkın deneyime sahip.
Daha önce antivirüs yazılımlarıyla tanınan büyük bir Çinli siber güvenlik şirketi olan Qihoo 360'taki açıkları araştırma enstitüsüne liderlik eden Chen, ardından bağımsız bir araştırmacı oldu.
Chen, yazılım zayıflıklarını araştıran ve düzeltilebilmeleri için bunları satıcılara bildiren küresel "beyaz şapkalı" topluluğun bir parçası.
Çalışmaları, Microsoft ve diğer güvenlik araştırmacılarından takdir görmesini sağlayan Chen, Microsoft'un yıllık "En Değerli Güvenlik Araştırmacısı" listesinde 2019'da ve 2021-2024 yılları arasında her yıl olmak üzere beş kez en üst sıralarda yer aldı.
2024 yılında Zürih ETH Güvenlik Çalışmaları Merkezi, kendisini sivil alanda faaliyet gösteren Çin'in en belirgin "süperstar hacker"larından biri olarak tanımladı. Chen, küresel hacking topluluğunda "hacking'in Oscarları" olarak anılan prestijli bir unvan olan "Pwnie Ödülü"nü iki kez kazandı.
Z.ai'nin Chen'i bünyesine katması, küresel alandaki diğer öncü yapay zeka modelleri gibi GLM'nin de siber açıkları ortaya çıkarma ve bunlardan yararlanma konusunda giderek daha yetkin hale geldiği bir döneme denk geliyor.
Merkezi Pekin'de bulunan şirket ağustos ayında yaptığı açıklamada, en son amiral gemisi modeli GLM-5.3'ün açık keşfi konusunda dünyadaki en iyi modellerden biri olduğunu ve kendisinden önceki GLM-5.2'den önemli ölçüde daha iyi olduğunu belirtmişti.
Geçtiğimiz ay ABD'li girişim Anthropic yayınladığı bir raporda, GLM-5.3'ün, uçtan uca siber istismarları otonom olarak geliştirme yeteneği de dahil olmak üzere, tartışmalı Claude Mythos modeliyle benzer siber saldırı yeteneklerine sahip olduğunu belirtmişti.
Eylül ayı sonlarında Chen, X platformunda Anthropic'in raporunu okuduktan sonra çalışmalarında kendisine yardımcı olması için GLM-5.3 kullanmaya başladığını yazmıştı.
ABD hükümeti geçen ay yayınladığı bir raporda, GLM-5.3'ü siber güvenlik açısından kamuya açık olarak yayınlanan en yetenekli açık ağırlıklı model olarak değerlendirdi; ancak modelin siber yetenekler açısından hâlâ ABD öncüsünün yaklaşık dört ay gerisinde olduğunu belirtti.
Çin'in yapay zeka endüstrisi, öncü yapay zeka risklerini azaltmaya giderek daha fazla odaklanırken; TikTok'un sahibi ByteDance geçen hafta yapay zeka güvenliğine adanmış yeni bir departman kuracağını duyurdu.
Çin ve ABD ayrıca ikili bir yapay zeka güvenliği görüşmesi başlatma konusunda mutabık kaldı.