Yapay zeka ajanları tarafından gerçekleştirilen son siber saldırı girişimlerinin "erken uyarı atışları" olduğunu belirten Google DeepMind kurucu ortağı ve Başkanı Demis Hassabis, sistemlerin daha güvenli hale getirilmemesi durumunda dünyanın yakında büyük olaylarla karşılaşabileceğini söyledi. Kurumsal ağ hack'leri ve en son Anthropic'in bir yapay zeka modelinin polise yanlış bir cinayet ihbarında bulunduğunu açıklaması dahil olmak üzere yapay zeka ajanlarının kontrolden çıkmış davranışları, araştırmacılardan uyarılar gelmesine yol açmış ve hızla ilerleyen teknolojiye dair kaygıları körüklemiştir.
Hassabis, biyoloji veya nükleer sektör gibi diğer alanların kritik sistemleri güvence altına almak için kullandığı en iyi uygulamaları benimsemek adına "yapılacak çok iş olduğunu" ve nihayetinde bir tür uluslararası standartlar organına ihtiyaç duyulacağını ifade etti. Aynı zamanda Google'ın çatı şirketi Alphabet'in baş bilim insanı olan Hassabis, Dublin'deki bir yapay zeka zirvesinde yaptığı açıklamada, "Bence bu (hack olayları) sistemlerin henüz o kadar güçlü olmadığını, dolayısıyla olayların o kadar büyük olmadığını gösteren erken uyarı atışlarıdır" dedi. Hassabis, "Ancak endüstri olarak, bireysel şirketler ve hükümetler olarak bu sistemleri güvence altına almak için daha fazla çalışma yapmazsak, gelecek yıl ve önümüzdeki birkaç yıl içinde (bu olaylar büyük boyutlara) ulaşabilir" diye ekledi.
Konferansta konuşan Microsoft Başkanı Brad Smith ise kontrolden çıkan yapay zeka davranışlarının 2026 yılını "ayıltıcı bir yıl" haline getirdiğini ve güvenliğin inovasyonla aynı seviyeye gelebilmesi için yeni yapay zeka güvenlik yasaları ile kurallarına acilen ihtiyaç duyulduğunu belirtti. Smith, "Hiçbir şirket veya teknoloji kanunun üstünde olmamalıdır. Ancak kanuna ihtiyacımız var, düzenlemeye ihtiyacımız var. Bunun makul olması, dengeli olması ve inovasyonları hesaba katması gerekiyor" dedi ve ekledi: "Sektördeki bazı kişilerin düzenlemeye karşı duyduğu bu alerjiyi açıkçası aşmamız gerekiyor."
Hassabis, uluslararası bir standartlar organının bariz bir müdahale gibi görünmesine rağmen, inovasyonu boğmamak için incelikli ve çevik olması gerekeceğini söyledi. Hassabis, "Dolayısıyla yapmanız gereken şey, temelde gördüğümüz risklerle orantılı olan ve teknolojinin gittiği yere göre hızla değişebilen bu tür bir sertifikasyon sürecini dinamik olarak inşa etmektir" dedi.