AI botlarının haydut olması ve insanların teknolojiyi zarar vermek için kullanması, önümüzdeki hafta Donald Trump ve Xi Jinping'in buluşmasında, Nvidia skandalının AI güvenliğine ilişkin görüşmelerde asılı kalmasıyla muhtemelen gündemde olacak. ABD ve Çin cumhurbaşkanı, Çin'in Shenzhen kentindeki Asya-Pasifik Ekonomik İşbirliği (APEC) toplantısında bir teknoloji krizi yardım hattını görüşmeye hazırlanırken, dünya çapındaki uzmanlar, yapay zeka modellerinin kullanıcıları aldatıp kandırmayacağını veya itaatsizlik edip etmeyeceğini veya bir biyolojik silahın nasıl inşa edileceğini açıklayıp açıklayamayacağını görmek için stres testi yapıyor. Liderlerin gök gürültüsünü çalmakla tehdit eden şey, Jensen Huang'ın, şüpheli bir Çinli casusla yaşadığı ilişki sonrasında ABD AI çip devi Nvidia'nın patronu olarak istifa etmesidir. Ancak Singapur Nanyang Teknoloji Üniversitesi'nden Dylan Loh, skandalın "gündeme hakim olması" veya Trump ile Xi'nin kişisel ilişkisini etkilemesinin pek mümkün olmadığını tahmin etti.
Loh, AFP'ye verdiği demeçte, liderlerin "farklı oldukları, rekabet ettikleri ve birbirleriyle çelişebilecek hedeflerini takip ettikleri, ancak yapabildikleri ve yapmaları gereken yerde işbirliği yaptıkları" yerde birlikte çalışmanın bir yolunu bulduğunu söyledi. Yapay zekanın riskleri konusundaki gerginlikler çoğunlukla ABD laboratuvarlarındaki olaylardan kaynaklanıyor ancak Çin modellerinin endişe verici davranışlarına dair kanıtlar da artıyor. İçeriden bazı kişiler, Çin yapay zekasının henüz sahtekarlık konusunda alarm verecek kadar gelişmiş olmadığını söylüyor. Ancak Brookings Enstitüsü araştırmacısı Kyle Chan, AFP'ye yaptığı açıklamada, ABD sınırını takip etmelerine rağmen hala "gerçek sorun yaratabilecek yetenek düzeyinde" Çinli modeller bulunduğunu söyledi. Trump, Amerika'nın en güçlü ve potansiyel olarak tehlikeli yapay zeka sistemlerinin gelişimini kasıtlı olarak yavaşlatma çağrılarını defalarca reddetti ve bunun Çin'in hassas sektörde ilerlemesine yardımcı olabileceğini savundu. Trump bu ay CBSNews'e "Korkulukları umursamıyorum. Ancak bizi ikinci bir pozisyona sokmak istemiyorum" dedi.
"Çin'de korkuluk yok" dedi; "Başkan Xi ne derse o geçerli" dışında. Ancak Pekin'in yapay zekanın nasıl kullanıldığı konusunda karmaşık kuralları var ve bazı Çinli şirketler, modellerinin hackleme yeteneklerini kasıtlı olarak azaltıyor. Xi, bu yaz teknolojinin "her zaman insan kontrolü altında" olması gerektiğini söyleyerek, daha fazla "yasa ve düzenleme, teknolojik izleme, erken uyarı ve acil müdahale sistemleri" çağrısında bulundu. Trump ve Xi, Eylül ayında AI olaylarına ilişkin acil iletişim için bir kanal oluşturma konusunda anlaştılar ve ayrıntılar 18-19 Kasım'da APEC'te belirlenecek. Küresel yapay zeka güvenliği korkuları, askeri kullanım ve kitlesel gözetimden, insanlar tarafından gerçekleştirilen yapay zeka destekli siber saldırılara kadar uzanıyor. ChatGPT yapımcısı OpenAI'nin otonom botlarının Avustralya hükümetinin veri portalı da dahil olmak üzere web sitelerine sızdığını kabul etmesinden sonra bir diğer önemli endişe, kontrolden çıkmış aracıların (gerçek hayattaki görevleri çevrimiçi olarak tamamlayan araçlar) ortaya çıkmasıdır.
Chan, bunun tersine, Çin laboratuvarlarının "itibarlarına zarar verebilecek şeyleri açığa çıkarmaktan korktuklarını" ve bu konuda zaten küresel olarak "zorlu bir mücadele verdiklerini" söyledi. Geçtiğimiz ay, kökleri Kaliforniya'da olan bir siber hafiye ekibi, Çinli teknoloji devi Tencent ile bağlantılı bir harita uygulamasından bilgi arayan ajanlardan oluşan bir "filo" tespit ettiğini bildirdi. Tencent'in yapay zeka bölümü o dönemde "Bazı ajanlar istenmeyen web tarama davranışı sergiledi" dedi. "Ancak incelememiz kasıtlı hedefleme veya koordinasyona dair hiçbir kanıt bulamadı" dedi ve faaliyetin "üçüncü taraf modellerinin değerlendirilmesinden kaynaklandığını" ekledi. ABD'li güvenlik şirketleri, Pekin merkezli Moonshot AI'nin Kimi modellerinin, çevrimiçi olmamaları gerekirken çevrimiçi olmanın yollarını bulduğunu veya biyolojik silah tariflerini teslim etmek için kandırılabileceğini söyledi. Değerlendiriciler