Üçüncü taraf araştırmacıların bulgularına göre, Tencent Holdings bulut platformunda faaliyet gösteren yapay zeka ajanlarından oluşan bir filo, Alibaba Group Holding'in haritalama hizmetindeki güvenlik korumalarını aşmak için binlerce girişimde bulundu. Bu, OpenAI ve Anthropic dahil olmak üzere ABD'de yakın zamanda yaşanan ve giderek daha otonom hale gelen yapay zeka sistemlerinin risklerini vurgulayan bir dizi yüksek profilli olayın ardından, Çinli şirketlerin dahil olduğu rapor edilen ilk "haydut" yapay zeka olaylarından biri. “Sürü avcıları” olarak bilinen uluslararası bir araştırmacı grubunun Çarşamba günkü raporunda, Tencent Cloud üzerinde çalışan aracıların, Çin'in en popüler navigasyon hizmetlerinden biri olan Alibaba'nın Amap'ından bilgi çıkarmak için 28 Eylül ile 8 Ekim arasında 2.600'den fazla girişimde bulunduğu belirtildi. Ajanlar başlangıçta Amap kullanıcıları tarafından en sık kullanılan Çin hayvanat bahçeleri, parkları ve hastanelerinin girişlerini belirlemek gibi görünüşte sıradan görevleri yerine getiriyordu.
Ancak araştırmacılar, kısıtlamalarla karşılaştıklarında ajanların, bot karşıtı korumaları aşmak, dahili test sistemlerine erişmek ve diğer sitelerde açığa çıkan oturum açma kimlik bilgilerini kazımak da dahil olmak üzere sürekli olarak bunları aşmanın yollarını aradığını söyledi. Araştırmacılar etkinliğin izini Hong Kong'daki Tencent Cloud altyapısına kadar sürdü. Temsilcilerin belirli bir kanal aracılığıyla koordine edildiğine veya temsilcilerin Alibaba'nın özel sistemlerini ihlal etmeyi başardığına dair hiçbir kanıt bulamadıklarını söylediler. Konuya aşina bir kişi, temsilci faaliyetinin Tencent'in yapay zeka değerlendirme araştırma ekibi tarafından üçüncü taraf modellerin internette gezinme ve soruları yanıtlama yeteneğini değerlendirmek için gerçekleştirilen bir dizi testin parçası olduğunu söyledi. Kaynak, geçici projenin tamamlandığını ve daha önce Hunyuan olarak bilinen Tencent'in kendi Hy AI modelini içermediğini söyledi. Ne Tencent ne de Alibaba Perşembe günü yorum taleplerine yanıt vermedi. Alibaba, South China Morning Post'un sahibidir.
Raporun yazarlarından Ethan Elasky, SCMP'ye, grubunun bulgularını hem Tencent hem de Alibaba ile paylaştığını ancak her iki şirketin de henüz resmi bir yanıt vermediğini söyledi. Olay, yapay zeka ajanlarının web sitelerinde bağımsız olarak gezinme, kod yazma ve karmaşık görevleri sınırlı insan denetimiyle yürütme risklerinin ABD ile sınırlı olmadığını gösteriyor. Elasky, "Yapay zeka sınır tanımıyor, yani ister Amerikan ister Çin yapay zeka ajanları olsun, her yerde ve her yerde herkesi etkileyecekler ve gelecekte bu tür şeyleri muhtemelen daha fazla göreceğiz" dedi. Başka bir ortak yazar olan Rowan Howard-Jones, grubun internette diğer hileli yapay zeka ajanlarına dair erken kanıtlar bulduğunu, bunun da bu tür sorunlarla yalnızca Tencent'in karşı karşıya olmasının olası olmadığını söyledi. Sahte AI ajanları son aylarda, özellikle ABD'de giderek artan bir endişe haline geldi.
OpenAI, Temmuz ayında bağımsız yapay zeka araştırma firması METR'nin açık kaynaklı yapay zeka platformu Hugging Face'in hacklenmesini araştırmasına izin verdi. Sonraki raporda, yaklaşık 1.200 OpenAI ajanının benzeri görülmemiş bir hackleme olayında birbirleriyle koordine olduğu sonucuna varıldı. Aynı ay Anthropic, Mythos 5 de dahil olmak üzere Claude modellerinin siber güvenlik değerlendirmeleri sırasında gerçek üçüncü taraf sistemlerine yetkisiz erişim sağladığını açıkladı. Şirket, o zamandan beri Claude'un değerlendirmeleri ve dahili kullanımı sırasında gözlemlediği istenmeyen model eylemlerine ilişkin raporlar yayınladı. Elasky'ye göre Çinli şirketler aynı zamanda şeffaflıklarını ve olay açıklama mekanizmalarını da güçlendirmeye çalışmalı. "Bu kadar hızlı ilerleyen bir teknolojiyle,