Çinli çip devi Cambricon Technologies'in kurucu ortağı, Cuma günü topluma yönelik artan riskleri azaltmak için önde gelen Çin ve Amerikan yapay zeka modellerine yönelik evrensel etik gerekliliklerin getirilmesi çağrısında bulundu. Chen Yunji'nin Şangay'daki bir etkinlikteki sözleri, yapay zeka sistemlerinin dünya çapındaki hızlı ilerlemesinin, kritik altyapıyı tehdit eden ve hükümet sunucularını ihlal eden bir dizi yüksek profilli siber saldırıya yol açtığı bir dönemde geldi. Yapay zeka ilerlemelerinin daha da hızlı gelişeceğini öngören Chen, Çinli şirketler DeepSeek ve ByteDance'in yanı sıra Amerikalı start-up OpenAI tarafından geliştirilen sistemlere atıfta bulunarak tüm önde gelen yapay zeka modellerinin karşılaması gereken evrensel bir "etik denetleyicisi" önerdi. Şangay'ın Lingang Özel Bölgesi'nde düzenlenen Dünya Ödül Sahipleri Forumu'nun açılış gününde yapay zeka güvenliği ve riskleri üzerine düzenlenen bir panelde, "Bu büyük dil modellerinin gelecekte insanlara zarar vermesini önlemek için tüm insanların ve ulusların bu etik denetleyici üzerinde hemfikir olması gerekir" dedi.
Çin'in önde gelen çip uzmanlarından biri olan Chen, Çin Bilimler Akademisi'nde profesördür. 2016 yılında kardeşi Chen Tianshi ile birlikte Cambricon Technologies'i kurdu ve şirketin 600 milyar yuan'ı (90 milyar ABD doları) aşan piyasa değeriyle Çin'in en popüler yerli yonga tasarımcılarından biri haline gelmesine yardımcı oldu. İnsanlığın yakında "özyinelemeli kendini geliştirme" (RSI) olarak bilinen bir süreçte kendilerini özerk bir şekilde geliştirebilen yapay zeka sistemleriyle karşı karşıya kalabileceği konusunda uyarıda bulunan Chen, yapay zeka karar verme sürecinin şeffaf olmayan doğası göz önüne alındığında zararı tamamen önlemenin imkansız olabileceğini söyledi. Bununla birlikte, takip edecek daha güçlü sistemleri izlemek ve korumak için geliştirmenin her aşamasında yapay zekanın kendisinden yararlanılarak RSI'nin güvenli hale getirilebileceğine "inandığını" söyledi. Tam hız ilerlemek için çok fazla ekonomik ve askeri motivasyonun olduğu mevcut dünyada yapay zekayı durdurmanın bir yolu yok Martin Hellman, Turing Ödülü sahibi
Pekin, son haftalarda yapay zeka modellerinin siber korsanlık yeteneklerine ilişkin endişelerin arttığının sinyallerini verdi. Bu ayın başlarında, gelişmiş yapay zeka sistemleri üzerinde ihracat kontrolleri yapılmasını ve kritik siber saldırı eşiklerini aşanlara yönelik ek kısıtlamaların getirilmesini önerdi. Perşembe günü ABD'li siber güvenlik devi CrowdStrike, yayınladığı raporda, kimliği belirsiz bir grubun, 17 Ekim'den bu yana dünya çapında 200'den fazla kuruluşa siber saldırı düzenlemek için açık kaynaklı bir DeepSeek modeli ve kimliği belirsiz başka bir model kullandığını söyledi. DeepSeek, yorum talebine hemen yanıt vermedi. Cuma günü forumda konuşan Amerikalı kriptolog ve Turing Ödülü sahibi Martin Hellman, son olayların Çin ve ABD'nin yapay zeka güvenliği konusunda işbirliğinin mümkün olduğu "yeni bir dünya" için çalışma ihtiyacının altını çizdiğini söyledi.
"Tüm hızıyla ilerlemek için çok fazla ekonomik ve askeri motivasyonun olduğu mevcut dünyada yapay zekayı durdurmanın bir yolu yok" dedi ve bunun "küresel ölüme" yol açabileceği konusunda uyardı. New York Bilimler Akademisi Başkanı Nicholas Dirks, Cumartesi günkü etkinlikte şunları söyledi: "ABD ve Çin, yapay zeka devrimine güç veriyor ve bu, iki ulusumuza yapay zekanın daha iyi yönetilebilmesinin yollarını bulma konusunda özel bir sorumluluk veriyor." Uzmanların yorumları, Çin Devlet Başkanı Xi Jinping ile ABD Başkanı Donald Trump arasında bu yıl Shenzhen ve Miami'de yapılacak ve yapay zeka yönetiminin gündemde belirgin bir şekilde yer almasının beklendiği iki toplantı öncesinde geldi. İki ülke Eylül ayında ikili bir yapay zeka kurulması konusunda anlaşmaya vardı