Yapay zeka güvenliğine ilişkin endişeler son aylarda tırmandı
Londra – İngiltere yapay zeka bakanı Pazartesi günü yaptığı açıklamada, Beyaz Saray'ın İngiltere'nin erişimini kısıtladığına dair haberlerin ardından, ülkenin en son yapay zeka modellerine güvenlik testi amacıyla erken erişim sağlamaya devam edeceğini doğruladı.
OpenAI ve Anthropic tarafından geliştirilen modellerin test sırasında güvenlik olaylarına karışması, yapay zeka güvenliğine ilişkin endişeleri son aylarda tırmandırdı ve hükümetler üzerinde teknolojiyi düzenleme baskısını artırdı.
Londra'da yaptığı bir konuşmada Yapay Zeka Bakanı Kanishka Narayan, "İngiltere'nin Yapay Zeka Güvenlik Enstitüsü'nün en güçlü yapay zeka modellerine piyasaya sürülmeden önce erişebilmesini sağlamak için ABD hükümetiyle yakın bir şekilde çalışıyoruz" dedi.
Birçok medya kuruluşuna göre bu durum, Donald Trump yönetimi başkanlığındaki önceki pozisyondan bir dönüşe işaret ediyor; zira ABD yönetimi, OpenAI ve Anthropic'ten modellerini ABD'li yetkililer tarafından değerlendirilmeden önce İngiliz test laboratuvarıyla paylaşmamalarını istemişti.
Narayan, 2023 yılında kurulan İngiltere Yapay Zeka Güvenlik Enstitüsü'ne, güvenlik endişeleri nedeniyle henüz halka açık olarak piyasaya sürülmeyen Google'ın en güçlü yapay zeka modeli Gemini 4 Argon'a erişim izni verildiğini söyledi.
Siber güvenlik uzmanları, bu son teknoloji sistemin bankaları, hastaneleri ve devlet sistemlerini hacklemek için kullanılabileceğinden endişe ediyor.
Geçtiğimiz ay, denetimden kaçan bir OpenAI modelinin eğitim sırasında koruma önlemlerini atlattığı ve Avustralya hükümetine ait bir sağlık istatistikleri web sitesini hacklediği ortaya çıkmıştı.
Narayan Pazartesi günü yaptığı uyarıda, "kendi siber savunmalarımızın ihlal edilmesinin kaçınılmaz olmasa bile muhtemel göründüğünü" belirtti.
Yapay zeka laboratuvarlarına çağrıda bulunan Narayan, "Bilim insanlarınız ciddi tehlikeler konusunda uyardığında kulak verin, beklenmeyen davranışları araştırın ve riskleri yeterince kontrol edemiyorsanız sistemi piyasaya sürmeyin" dedi.
Ülkenin siber saldırılara karşı savunmasını güçlendirmek amacıyla, kamu hizmetlerindeki güvenlik açıklarını tespit etmek ve gidermek için sınır yapay zeka teknolojisini kullanmayı hedefleyen devlet pilot programları kuruldu.
Hafta sonu BBC'ye konuşan Microsoft Başkanı Brad Smith, yapay zeka modellerini test etme konusunda İngiltere'nin liderliği üstlenecek en iyi konumda olduğunu söyledi.
Yayın kuruluşuna konuşan Smith, "Teknoloji dünyasında... tanıdığım çoğu insana hangi ülkenin bu teknik kapasiteye sahip lider ülke olduğunu sorsanız, çok basit derler. İngiltere derler. Onlar en iyisi" ifadelerini kullandı.
Ayrıca daha sıkı güvenlik kurallarını savunan Smith, yayın kuruluşuna süt ve çamaşır makinelerinin yapay zekadan daha ağır şekilde denetlendiğini söyledi.