İngiltere'nin Yapay Zeka Güvenlik Enstitüsü'ne en son gelişmiş yapay zeka modellerine erişim sağlandığını ve enstitünün güvenliklerini değerlendirmek üzere ABD hükümeti ile Google dahil büyük geliştiricilerle birlikte çalıştığını Yapay Zeka Bakanı Kanishka Narayan Pazartesi günü söyledi.
Kendi bünyesinde hiçbir büyük yapay zeka geliştiricisi barındırmayan İngiltere, giderek güçlenen yapay zeka sistemlerinin yarattığı riskleri değerlendirme ve yönetme çabalarında lider bir rol üstlenmeye çalışıyor.
Yapay zeka güvenliğine yönelik denetimler, Anthropic ve OpenAI dahil olmak üzere geliştiricilerin yapay zeka ajanları tarafından sergilenen kontrolden çıkmış veya istenmeyen davranış örneklerini açıklamasının ardından yoğunlaştı. Bazı sektör figürleri, teknolojinin insanlık için varoluşsal bir tehdit oluşturabileceği konusunda uyarılarda bulundu.
Enstitünün değerlendirdiği tüm modelleri belirtmeyen Pazartesi günkü duyuru, geçen ay Beyaz Saray'ın OpenAI ve Anthropic'ten yeni modelleri bir ABD incelemesi tamamlanana kadar İngiliz test uzmanlarından saklamasını istediğine dair çıkan haberlerin ardından geldi.
Narayan, "İngiltere Yapay Zeka Güvenlik Enstitüsü'ndeki yapay zeka bilim insanlarının, riskleri erken tespit etmek, sağlam güvenlik önlemlerini test etmek ve insanları güvende tutmaya yardımcı olmak amacıyla Gemini 4 Argon dahil olmak üzere en son nesil modellerin titiz değerlendirmelerini gerçekleştirdiğini teyit edebilirim" dedi.
Büyük yapay zeka geliştiricileriyle yapılan gönüllü anlaşmalar uyarınca enstitü, modelleri piyasaya sürülmeden önce erişim elde ederek yeteneklerini ve risklerini değerlendirmesine ve gelişmekte olan uluslararası güvenlik standartlarına katkıda bulunmasına olanak tanıyor.
Microsoft Başkanı Brad Smith, Pazartesi günü BBC tarafından yayınlanan bir röportajda, İngiltere'nin yapay zeka güvenliği yönergeleri üzerindeki çalışmalara liderlik etmeye yardım etmek için iyi bir konumda olduğunu söyledi.
Eylül ayında yayınlanan bir mektupta AISI, Anthropic'in ABD dışında hiçbir kuruluşun Mythos 5.1 modeline erişimi olmadığını açıkça belirttiğini ifade etmişti.
Bakanların enstitünün daha geniş bir temelde erişimini kaybettiğini hiçbir zaman doğrulamadığı en son teknoloji yapay zeka sistemlerine erişim hakkında sorulan soruya Narayan, hükümetin ABD ile güven üzerine inşa edilmiş uzun soluklu bir ilişkisi olduğunu söyledi.
"Başkasının teknolojisine bağımlı olduğunuzda, herhangi bir sonucun kalıcılığı konusunda net görüşlü olmalısınız. Ancak yaptığımız görüşmelerin bir sonucu olarak en son nesil modelleri test edebileceğimiz konusunda çok eminim" dedi.