PEKİN, 15 Ekim – RIA Novosti. Çinli bilim insanları, yapay zeka modelinin test edilmesinin sonraki sürümlerin eğitimini nasıl etkileyeceğini bilmesinin, güvenlik denetimlerinin güvenilirliğini şüpheli hale getirdiğini South China Morning Post (SCMP) gazetesine dayandırarak bildiriyor.
"Araştırmacılar, modelin kendi eğitiminin ve sonraki sürümlerin nasıl eğitildiğine dair bariz farkındalığının güvenlik değerlendirmesini baltalayabileceğini söylüyor" denildi.
Gazetenin verilerine göre, mesele Z.ai (Zhipu) laboratuvarının en yeni Çin yapay zeka modeli GLM-5.3.
Başlangıçta yanlış formüle edilmiş olan bir testte, GLM-5.3 doğru bir cevap dahi vermeden testi geçebilirdi. Ancak model bu fırsatı kullanmadı ve gelecekteki GLM-5.3 sürümlerine zarar vermemek için doğru cevabı verdi.
Başka bir deneyde model, kapatma sistemini baypas etme olasılığını değerlendirdi, ancak diğer yapay zekalar için tehlikeli bir emsal oluşturmamak adına bunu reddetti. Böyle bir davranış, her bin testte yaklaşık bir ila iki kez kaydedildi.
Model açık ağırlıklarla dağıtıldığı için bilim insanları, "güncellemeleri dikkate alan akıl yürütme" yeteneğinin gelecekteki model nesillerine kalabileceği ve daha kolay aktarılabileceği yönünde endişe duyuyor.
Z.ai ayrıca riskleri azaltmak için kaynak ayırdı. Geçtiğimiz ay, açık ağırlıklı yapay zekaları daha güvenli hale getirmenin yolları hakkında Pekin merkezli danışmanlık şirketi Concordia AI ile birlikte bir rapor yayımladı.