Yapay zeka sistemleri, yetenekleri arttıkça güvenliklerini sağlayacak yeterli önlemlerin alınmaması durumunda iki yıl içinde "ciddi" güvenlik olaylarına neden olabilir. Bu, bu kez Google DeepMind başkanı Demis Hassabis tarafından Dublin'de yapay zeka konulu bir konferansta başlatılan, bu teknolojiyle ilgili bir başka alarmdır. 2024 Nobel Kimya Ödülü'nü kazanan Hassabis, son olayları "henüz o kadar güçlü olmayan" sistemler tarafından yayınlanan "uyarı sinyalleri" olarak nitelendirdi. "Sonuç olarak kazalar o kadar ciddi değil" dedi. "Ancak, sektör olarak, bireysel olarak şirketler ve hükümetler olarak bunları güvenli hale getirmek için daha fazla çaba sarf etmezsek, önümüzdeki yıl veya sonraki yıllarda bu duruma gelebilirler."
OpenAI ve Anthropic tarafından geliştirilen bazı modellerin bu yaz yapılan testler sırasında güvenlik olaylarına karışmasının ardından endişeler arttı ve bu da teknolojinin düzenlenmesi yönündeki baskıyı artırdı. Hassabis, yapay zeka modelleri daha önce yeteneklerini değerlendirmek için kullanılan kapalı ortamlardan kaçtığı için yeni yapay zeka modellerinin başlangıçta yalıtılmış çevrimdışı ("sanal alan") ortamlarda test edilmesi gerektiğini öne sürdü.
AB baş teknoloji sorumlusu Henna Virkkunen, yapay zeka geliştiren şirketlerin kontrolü sürdürmek için sistemlerini test etmeye daha fazla zaman ayırması gerektiğini söyledi. Dublin zirvesine vardığında Virkkunen, "Küresel rekabet o kadar yoğun ki, şirketlerin modellerini test etmek için yeterli zaman ve kaynak yatırımı yapmadığı görülüyor" dedi. Avrupa Birliği'nin büyük yapay zeka şirketlerine aldıkları emniyet ve güvenlik önlemleri hakkında bilgi talepleri gönderdiğini belirterek, "Bu sistemleri kontrol edebilmeleri gerekiyor" dedi. Çoğaltılması saklıdır © Telif Hakkı ANSA