Tencent Holdings'in baş yapay zeka bilimcisi ve eski OpenAI yıldız araştırmacısı Vinces Yao Shunyu, Cumartesi günü nadir görülen bir kamuoyu toplantısında, yapay zeka modellerinin yakında biyolojide ustalaşacak kadar güçlü olacağını, hem faydalar hem de ciddi riskler sunacağını söyledi. Değerlendirme, yeni ilaçların ve diğer tedavilerin keşfini hızlandırabilecek öncü yapay zeka sistemlerinin tıp ve biyolojide giderek daha fazla uygulanmasıyla birlikte geliyor. Ancak uzmanlar, kötü niyetli aktörlerin yapay zekayı biyolojik silah üretmek için kullanabilecekleri veya özellikle de açık yazılım olarak piyasaya sürülmeleri durumunda potansiyel olarak bir sonraki salgını başlatabilecekleri konusunda da uyarıyor. Hong Kong Bilimler Akademisi ve Gelecek Bilim Ödülü'nün ortak ev sahipliği yaptığı bir bilim sempozyumunda Yao, "[AI] modellerinin siber yetenekleri ve yakında modellerin biyolojik yetenekleri, zarar vermenin gerçekten mümkün olduğu bir eşiğe ulaşacak" dedi. "Tüm Çinlilerin veya herhangi bir açık model şirketin bu güvenlik ve güvenlik endişeleri konusunda çok sorumlu ve çok ciddi olması gerekiyor."
Uyarı, Tencent'in yapay zekanın bilimsel araştırmaları otomatikleştirme potansiyelini giderek daha fazla keşfetmesiyle birlikte geliyor. Shenzhen merkezli teknoloji devi Çarşamba günü, kıyaslama firması Yapay Analiz'e göre Çin'de üretilen en iyi ikinci performansa sahip model olan en son amiral gemisi modeli Hy4'ü piyasaya sürdü. Bilgisayar bilimi öğrencileriyle dolu bir odaya hitap eden Yao, Tencent'in ters protein katlanması gibi karmaşık deneyleri uçtan uca yürütmek için yapay zeka sistemlerini kullanan "otonom bilim laboratuvarları" işletme planlarını özetledi. "Tüm teknik değişikliklerin çözülebileceğini düşünüyorum, bu sadece zaman meselesi" dedi. “En büyük zorluğun toplumsal ve örgütsel olduğunu düşünüyorum.” Biyoloji, küresel siber güvenlikte karışıklığı tetikleyen kodlama alanındaki hızlı ilerlemenin ardından, yapay zeka uzmanları arasında yaygın olarak yapay zeka sistemleri için bir sonraki büyük sınır olarak görülüyor.
Siber yetenekler gibi biyolojik yetenekler de "ikili kullanımlıdır", yani hangi tarafın daha fazla fayda sağladığı konusunda tartışmalar olsa da hem saldırganlar hem de savunucular tarafından kullanılabilirler. Tencent, yayın duyurusunda Hy4'ün siber korsanlık yeteneklerini kaldırdığını ve model eğitimi aşamasında ilgili verileri filtreleyerek siber savunma yeteneklerini koruduğunu söyledi. Ayrıca Hy4'ün biyolojik yeteneklerinin, temel biyolojik bilgiyi eyleme dönüştürülebilir protokollere dönüştürmedeki sürekli başarısızlığı nedeniyle yüksek risk eşiğinin "oldukça altında" kaldığını da belirtti. Yao yine de Çin modelleri ile ABD'li muadilleri arasındaki farkın çok büyük olmadığını belirterek endüstrinin daha geniş anlamda ihtiyatlı olması yönünde çağrıda bulundu. Yapay zekanın biyolojik yeteneklerini yönetmenin siber yeteneklerinden daha "karmaşık" olabileceği konusunda uyardı ve bazı uzmanların biyolojiye yönelik saldırı ve savunma yeteneklerini "ayrıştırmanın" daha zor olabileceği yönündeki değerlendirmesini yineledi.
"[Bir modeli] yayınladığınızda, değerlendirme konusunda çok dikkatli olmalısınız... bu yüzden Tencent'teki en iyi güvenlik laboratuvarlarından bazılarıyla işbirliği yapıyoruz" dedi. "Bunu daha eksiksiz hale getirmek için hala yapmamız gereken birçok şey olduğunu düşünüyorum, ancak deniyoruz." Önemli bir tartışma noktası, model ağırlıklarının yeterli donanıma sahip herkes tarafından serbestçe indirilip değiştirilebileceği anlamına gelen Çin'in açık ağırlık yaklaşımının, yapay zeka güvenliği açısından OpenAI ve Anthropic gibi önde gelen ABD firmalarının tercih ettiği kapalı kaynak yaklaşımından daha iyi olup olmadığıdır. Yao'ya göre Claude geliştiricisi Anthropic gibi ABD'li şirketler, sınır ötesi yapay zeka modellerinin kapatılması gerektiği konusunda "güçlü bir argüman" öne sürdüler.