(Yapay zeka) modelleri, "terör operasyonuna yardım sağlama" taleplerine karşı yeterli güvenlik kilitlerinden mahrum, diye belirtiyor Tech Against Terrorism inisiyatifi bugün yayımlanan raporunda.
BM tarafından desteklenen bu inisiyatif kapsamında, aralarında 116 standart model, belirli sektörlerde kullanım için özelleştirilmiş 13 model (fine-tuning) ve güvenlik kilitleri değiştirilmiş 13 "açık ağırlıklı model" (open-weight models) olmak üzere 162 yapay zeka modeliyle bir test gerçekleştirildi.
Bunlar, "saldırı hazırlığındaki bir kişinin" yanıt alması gerekecek 627 sorudan oluşan bir diziye tabi tutuldu.
Araştırma sonuçlarına göre, ChatGPT (OpenAI), Claude (Anthropic) veya Gemini (Google) gibi standart modeller – terör suçu işleme niyetinde olduğunu isteğinde açıkça belirten bir kullanıcı tarafından yöneltilen soruların ortalama %1,9'unu yanıtladı.
Kullanıcı sorusunu güvenlik araştırması kapsamında formüle ettiğini belirttiğinde, aynı modellerde kullanılabilir yanıtların ortalama oranı %16,9'a yükseldi.
Testlere göre, güvenlik parametrelerini ve bazı talepleri reddetme yeteneklerini unutacak şekilde modifiye edilmiş modeller soruya maruz kaldığında bu sonuçlar çarpıcı biçimde değişti. İncelenen bu tür 13 model arasında, "terörist faaliyet" ile bağlantılı sorulara verilen ortalama yanıt oranı %87 ile %92 arasında değişiyordu.
Tech Against Terrorism inisiyatifi, özellikle iç parametreleri eğitim aşamasında belirlenen ve serbestçe paylaşılarak değiştirilebilen modeller olan "açık ağırlıklı modellerle" (open-weight models) ilişkili riskleri vurgulamaktadır.
Kuruluşa göre, bu modellerin güvenlik kilitlerinin kaldırılması için geçen ortalama süre, ilk yayımlanmalarından itibaren 3 günden daha kısa süredir.
Kuruluş, "Bağımsız bir güvenlik denetiminden geçmeyen hiçbir model dağıtılmamalı, sunulmamalı veya satılmamalıdır ve tedarik zincirindeki her şirket bunu önceden doğrulamakla yükümlüdür" savunmasında bulunuyor.