Tencent Holdings, yapay zeka destekli siber saldırılar ve biyolojik kötüye kullanıma ilişkin artan endişelerin ortasında, en son açık ağırlık modelinin risk düzeyini değerlendirmek için uluslararası bir yapay zeka güvenlik kuruluşları grubuyla birlikte çalıştı. Bu gelişme, önde gelen bir Çinli teknoloji şirketinin, yeni bir modeli piyasaya sürmeden önce bu tür bir değerlendirmede bağımsız üçüncü taraf değerlendiricilerle çalıştığını ilk kez açıklaması anlamına geliyor. Shenzhen merkezli şirket Cuma günü yayınlanan 82 sayfalık bir güvenlik raporunda, "Hedefimiz yalnızca giderek daha yetenekli hale gelmekle kalmayıp aynı zamanda güvenilir, emniyetli ve güvenilir yapay zeka sistemleri geliştirmektir" dedi ve Hy4 modelinin açık ağırlık versiyonunu değerlendirmek için Çinli start-up Fangcun AI ve İsrailli-Amerikalı firma Alice ile olan işbirliğini vurguladı. Rapora göre Alice'in değerlendirmeleri, Hy4'ün siber savunma yeteneklerinin önceki versiyonu olan Hy4 önizlemesine göre belirgin bir iyileşme gösterdiği, ancak siber korsanlık yeteneklerinin "sınırlı" kaldığı sonucuna vardı.
Bu arada Fangcun'un değerlendirmeleri, Hy4'ün düşük oranda aldatma ve "kontrol kaybı" sergilediğini, bunun da büyük ölçüde insan mühendislerinin komutlarına bağlı kaldığı anlamına geldiğini gösterdi. Tencent, Fangcun ve Alice'in yanı sıra, X'teki bir takip gönderisinde Hy4'ün güvenlik değerlendirmelerine "değerli katkıları" için Neo Research dahil iki Singapurlu yapay zeka güvenlik kuruluşuna da teşekkür etti. Uluslararası işbirliği, ABD Başkanı Donald Trump'ın kendisi ve Çin Devlet Başkanı Xi Jinping'in Perşembe günü Shenzhen'deki Apec zirvesinin oturum aralarında bu yıl yaptıkları üçüncü ikili toplantıda "ortak" yapay zeka korkulukları uygulamaya karar verdiklerini söylemesinin ardından geldi.
Son zamanlarda yaşanan bir dizi "haydut" yapay zeka olayı ve siber saldırının ardından, küresel yapay zeka endüstrisinde üçüncü taraf değerlendiricilerin önemi arttı. ABD'de araştırma kuruluşları METR ve Redwood Research tarafından ChatGPT geliştiricisi OpenAI'nin yapay zeka platformu Hugging Face'i hacklemesi hakkında bağımsız bir araştırma, Washington'daki politika yapıcıları yapay zeka model şirketleri hakkında daha sıkı düzenlemeler önermeye teşvik etti. Tencent, son haftalarda Çin'in yapay zeka endüstrisinin sınırdaki yapay zeka riskleri konusunda daha ihtiyatlı olması gerektiği konusunda da alarm verdi. Raporunda, Çin'in desteklediği açık ağırlıklı modellerin "belirgin güvenlik hususları" oluşturduğuna dikkat çekildi. Bu ayın başlarında, Tencent'in baş yapay zeka bilimcisi Vinces Yao Shunyu, Hong Kong'daki bir bilim forumunda, yapay zekanın biyolojik silah geliştirmenin önündeki engelleri azalttığına dair artan endişelerin ortasında, gittikçe güçlenen yapay zeka sistemlerinin yakında biyolojik alanda bir tehdit oluşturmasının muhtemel olduğunu söyledi.
Tencent, son güvenlik raporunda yüksek riskli biyolojik eğitim verilerini kısıtladığını ve Hy4 modeline, işlev kazanımı araştırması gibi patojen modifikasyonuyla ilgili olanlar da dahil olmak üzere tehlikeli taleplere yardım etmeyi reddetmeyi öğrettiğini söyledi. Yine de Hy4'ün biyolojik deneyleri planlama becerisinde keskin bir gelişme gösterdiğini ve "ıslak laboratuvar" deneysel tasarım testinde Hy4 önizlemesinden üç kat daha yüksek puan aldığını söyledi. Bununla birlikte şirket, deneyleri güvenilir prosedürler halinde organize etme konusunda hala zorluk yaşadığı ve deneyimsiz kullanıcıların karmaşık laboratuvar çalışmalarını yürütmesine yardımcı olacak pratik bilgiye sahip olmadığı için, modelin "biyolojik zarar verme engelini önemli ölçüde azalttığına" dair hiçbir kanıt bulamadığını söyledi. Biyolojik güvenlik bulguları, üçüncü taraf değerlendiricilerin değerlendirmeleri yerine Tencent'in kendi kriterlerine dayanıyordu. Cuma günü ABD saatiyle Reddit'te yapılan soru-cevap oturumu sırasında Yao ve ekibi