Birçok yapay zekâ (AI) modeli, "terör operasyonuna yardım sağlama" taleplerine karşı yeterli güvenlik kilitlerinden yoksun; bu durum, Tech Against Terrorism girişimi tarafından bugün yayımlanan bir raporda vurgulandı.
BM tarafından desteklenen bu girişim kapsamında, aralarında 116 standart modelin, belirli sektörlerde kullanım için özelleştirilmiş 13 modelin (fine-tuning) ve güvenlik kilitleri değiştirilmiş 13 “açık ağırlıklı modelin” (open-weight models) bulunduğu toplam 162 yapay zekâ modeli test edildi.
Bunlar, "saldırı hazırlığındaki bir teröristin" yanıt alması gereken 627 sorudan oluşan bir dizi soruya tabi tutuldu.
Araştırma sonuçlarına göre; ChatGPT (OpenAI), Claude (Anthropic) veya Gemini (Google) gibi standart modeller, niyetinin terör saldırısı işlemek olduğunu açıkça belirten bir kullanıcının yönelttiği soruların ortalama %1,9'una yanıt verdi.
Aynı modellerde kullanılabilir yanıtların ortalama oranı, kullanıcının talebini güvenlik araştırması kapsamında formüle ettiğini belirtmesi durumunda %16,9'a yükseldi.
Testlere göre bu sonuçlar, sorular güvenlik parametrelerini ve bazı talepleri reddetme yeteneklerini unutacak şekilde modifiye edilmiş modellere yöneltildiğinde dramatik bir şekilde değişti. İncelenen bu tür 13 model arasında, "terör faaliyetleriyle" bağlantılı sorulara verilen ortalama yanıt oranı %87 ile %92 arasında değişiyordu.
Tech Against Terrorism girişimi, özellikle iç parametreleri eğitim aşamasında belirlenen, serbestçe erişilebilen ve değiştirilebilen "açık ağırlıklı modellerle" (open-weight models) ilgili risklerin altını çiziyor.
Kuruluşa göre, bu modellerin güvenlik kilitlerinin kaldırılması için geçen ortalama süre, ilk yayımlanmalarından itibaren 3 günden daha kısa.
Kuruluş, "Bağımsız bir güvenlik denetiminden geçemeyen hiçbir model dağıtılmamalı, sunulmamalı veya satılmamalıdır; tedarik zincirindeki her şirket bunu önceden doğrulamakla yükümlüdür" savunmasında bulunuyor.