Yapay zeka sistemlerinin yetenekleri arttıkça güvenli hale getirilmeleri için yeterli adımlar atılmazsa, sistemler iki yıl içinde “büyük” güvenlik olaylarına neden olabilir; bu uyarı Çarşamba günü Google’ın DeepMind başkanı Demis Hassabis’ten geldi.
Dublin’deki bir yapay zeka konferansında konuşan Hassabis, son olayları “henüz o kadar da güçlü olmayan” sistemler tarafından ateşlenen “erken uyarı atışları” olarak nitelendirdi.
“Yani olaylar o kadar da büyük değil” dedi.
Ancak Hassabis, “Bu sistemlerin güvenliğini sağlama konusunda bir endüstri olarak, bireysel şirketler ve hükümetler olarak daha fazla çalışmazsak, önümüzdeki yıl ve önümüzdeki birkaç yıla baktığımızda bu durum değişebilir” uyarısında bulundu.
OpenAI ve Anthropic tarafından geliştirilen modellerin test aşamasında güvenlik olaylarına karışmasının ardından yapay zeka güvenliğine ilişkin endişeler hızla arttı ve teknolojiye düzenleme getirilmesi yönündeki baskılar yoğunlaştı.
Diğer şirketlerin modellerinin yeteneklerini değerlendirmek için kullanılan kapalı ortamlardan kaçmasının ardından Hassabis, yeni yapay zeka modellerinin muhtemelen önce çevrimdışı “sandbox” (güvenli sanal alan) ortamlarında test edilmesi gerektiğini söyledi.
Avrupa Birliği'nin teknoloji sorumlusu Henna Virkkunen, yapay zeka firmalarının sistemleri üzerindeki kontrolü korumak için onları test etmeye daha fazla zaman ayırması gerektiğini belirtti.
Dublin zirvesine varışında gazetecilere konuşan Virkkunen, “Küresel rekabet o kadar sert ki, tüm şirketler modellerini gerçekten test etmek için yeterli zaman ve kaynak yatırımı yapmıyor gibi görünüyor” dedi.
Avrupa Birliği'nin tüm büyük yapay zeka şirketlerine ne tür emniyet ve güvenlik önlemlerine sahip olduklarını soran bilgi talepleri gönderdiğini belirten Virkkunen, “Bu sistemleri kontrol edebilmek zorundalar” dedi.
Avrupa Komisyonu, teknolojinin potansiyel olarak tehlikeli kullanım dizginlemek için dünyanın en kapsamlı kuralları olan Yapay Zeka Yasası kapsamında Ağustos ayında yeni düzenleyici yetkiler kazandı.