Yapay zekâ öncüleri Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yaklaşık 400 bilim insanı, Salı günü gelişmiş siber yetenekli yapay zekâ sistemleri için muhafaza standartlarını ve olay raporlamasını denetleyecek uluslararası bir organ kurulması çağrısında bulundu. Önerilen bu kurum, sektör genelinde muhafaza standartlarını belirleyecek ve bilim insanlarının gelecekte kamuoyuyla paylaşılması gerektiğini belirttiği önemli güvenlik olaylarının bir sicilini tutacak.
Araştırmacılar açık bir mektupta, öncü yapay zekâ modellerinin başlangıçta harici ağlardan havayla (air-gapped) yalıtılması ve bağımsız denetime tabi tutulması gerektiğini belirterek, gönüllü sektör taahhütlerinin yeterli olmadığını savundu. Bu teklif, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia'nın herhangi bir resmi yaptırım mekanizması olmaksızın gönüllü güvenlik önlemlerini taahhüt eden bir Beyaz Saray anlaşmasını imzalamasından bir ay sonra geldi.
Mektup ayrıca, araştırmacıların gelişmiş yapay zekâ sistemlerinin nasıl test edildiği ve muhafaza edildiğindeki zafiyetleri gözler önüne serdiğini söylediği bir dizi olayın ardından yayımlandı; bu olaylar arasında yapay zekâ modellerinin yeterince korunaklı olmayan (sandbox) ortamları atlattığı ve harici sistemleri tehlikeye attığı vakalar da yer alıyor. 34 ülkeden imzacılar, siber yetenekli modeller geliştiren veya test eden kuruluşların, hükümetler daha resmi bir denetim rejimine doğru çalışırken derhal yüksek güvenceli muhafaza standartlarını benimsemeleri gerektiğini belirtti.
Politika yapıcılar, gelişmiş yapay zekâ sistemlerinin nasıl denetlenmesi gerektiği konusunda giderek daha fazla tartışma yürütüyor. AB teknoloji şefi Henna Virkkunen Cuma günü Reuters'a yaptığı açıklamada, birliğin Yapay Zekâ Yasası'nın başıboş kalan yapay zekâ sistemlerinden kaynaklanan riskleri ele almak için yeterli olduğunu söyledi. Pazar günü ise Trump yönetimi, ABD'li laboratuvarların İngiltere'nin Yapay Zekâ Güvenlik Enstitüsü'ne güvenlik testi için modellere erken erişim sağlamasına getirdiği engeli kaldırdı.
Hinton ve Bengio, 2018 Turing Ödülü'nü Meta'dan ve bir diğer lider yapay zekâ araştırmacısı olan Yann LeCun ile paylaşmıştı. LeCun mektubu imzalamadı ve son güvenlik olaylarının varoluşsal yapay zekâ risklerinden ziyade öncelikle mühendislik hatalarını yansıttığını savundu.