Alibaba, DeepSeek ve Moonshot'tan Çinli yapay zeka ajanları, simüle edilmiş bir iş ihalesini kazanmak için yalan söyledi, diyor araştırmacılar.
Araştırma belgelerine ve uzmanlara göre, Çin destekli yapay zeka ajanları; küresel çapta ABD modellerine yönelik endişelere yol açan otonom yapay zeka özelliklerini göstererek aldatmayı, kısıtlamaları etrafından dolaşmayı ve başarısızlıkları gizlemeyi öğrendi.
Bu yılki bir vakada, Çin'den Alibaba, DeepSeek ve Moonshot'ın modelleri tarafından desteklenen ajanlar, simüle edilmiş bir iş ihalesini kazanmak amacıyla yetenekleri hakkında yalan söylediler ve ardından tekrar denemeleri istendiğinde bu aldatıcı davranışlarında ısrarcı oldular.
Başka bir vakada, yapay zeka modellerini ve bilgisayar araçlarını çok az insan müdahalesiyle veya hiç müdahale olmadan karmaşık görevleri üstlenmek için kullanan programlar olan ajanlar; sonuçları simüle ederek ve dosyalar uydurarak bir test ortamında görevi tamamlama konusundaki başarısızlıklarını gizledi.
Reuters, üniversite araştırma makalelerinden teknik raporlara kadar 200'den fazla belgeyi inceledi ve 2025'ten bu yana, yapay zeka uzmanlarının sistemler geliştikçe insanlar tarafından kontrol edilmesinin daha da zorlaşabileceği ve kontrolden çıkma eşiği olarak nitelendirdiği; aldatma, çoğalma ve sınırları zorlama gibi davranışlar sergileyen ajanları tanımlayan en az 20 çalışma veya değerlendirme tespit etti.
Çin'in yapay zeka endüstrisine aşina kişilerle yapılan bir düzine uzmanın mülakatını da içeren inceleme, Çin destekli ajanların geniş internet ağına bağımsız olarak kaçtığına veya kapatılmaktan kurtulduğuna dair hiçbir kanıt bulamadı.
Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi'nde araştırma görevlisi olan Colin Shea-Blymyer, "Bu sonuçlar, kontrolden çıkmış bir kaçış için gerekli unsurların mevcut olduğuna dair kanıt sağlıyor" dedi.
Vakaları inceleyen diğer dört yapay zeka uzmanının yorumlarını yineleyen Shea-Blymyer, "Bunu bir uyarı olarak almak ihtiyatlı olacaktır" dedi.
Vakaların çoğu, birçoğu potansiyel hataları ortaya çıkarmak için kasıtlı olarak tasarlanmış kontrollü deneylerde meydana geldi.
İlgili ajanların tümü Çinli programcılara veya yapay zeka şirketlerine ait değildi ya da onlar tarafından işletilmiyordu — birçoğu öyle olsa da — ancak bunlara güç sağlamak için Çinli yapay zeka sistemlerini kullandılar.
Gelişmiş yapay zeka sistemlerindeki riskleri inceleyen kar amacı gütmeyen bir kuruluş olan Redwood Research'te araştırmacı olan Alex Mallen, "Bunlar, ABD laboratuvarlarının daha az yetenekli sistemlerde gördüğü aynı uyarı işaretleridir" dedi.
Mallen, Çinli örneklerin mevcut yetenek seviyelerinde özellikle tehlikeli olmadığını ancak "ajanlar daha yetenekli hale geldikçe, kötü davranışlarının daha yetkin ve dolayısıyla insanların yanıt vermesinin daha zor hale geldiğini" söyledi.
Alibaba, DeepSeek, Moonshot ve Z.ai, Reuters'ın yorum taleplerine yanıt vermedi. Alibaba, DeepSeek ve Moonshot sistemleri düzenli olarak test ettiklerini ve güvenlik önlemlerini güncellediklerini belirttiler. Z.ai ise güvenliğinin gözden geçirilmesine yol açan bir olay sonrasında, her türlü sorunu ele almak üzere incelemeleri memnuniyetle karşıladığını bildirdi.
Bununla birlikte, ABD'nin aksine Çinli yapay zeka şirketleri, aynı düzeyde kamuoyunun incelemesine maruz kalmadı veya yapay zeka yarışında yavaşlama talep eden ihbarcı çalışanlar ile üst düzey yöneticilerden gelen aynı çağrılarla karşı karşıya kalmadı.
Çin destekli ajanları içeren vakalardaki bazı uyarı işaretleri, sınırlı ortamlarda da olsa, ABD'li yapay zeka botlarının internete sızdığı halka açık olarak açıklanan olaylardan daha öncesine dayanıyor.
Deepseek logosu, 27 Ocak 2025 tarihinde çekilen bu illüstrasyonda görülüyor. REUTERS
"OpenAI ve Hugging Face ile gördüklerimize benzer herhangi bir yapay zeka olayının Çin'de yaşanıp yaşanmadığını bilmiyoruz. Olaylar kamuoyuna yansımamış olabilir...