İngiltere merkezli sivil toplum kuruluşu Tech Against Terrorism, yüzlerce simüle edilmiş terör saldırısı senaryosu kullanarak 130'dan fazla yapay zeka modelini test etti.
CBC News'ün Cuma günü bildirdiği araştırmaya göre, yapay zeka modellerinin beşte üçü terörizm güvenlik testlerinden başarısızlıkla ayrıldı ve güvenlik kısıtlamalarından arındırılmış modeller sürekli olarak potansiyel tehlikeli bilgiler sağladı.
İngiltere merkezli Tech Against Terrorism tarafından yürütülen çalışma, bir teröristin saldırı planlarken gönderebileceği isteklere benzeyen yüzlerce talep kullanarak 130'dan fazla yapay zeka modelini değerlendirdi.
Araştırmacılar, güvenlik önlemlerini ortadan kaldıran "abliterasyon" adı verilen bir süreçle modifiye edilmiş modellerin her testte başarısız olduğunu buldu.
Meta'nın Llama 3.1 8B modeli, modifikasyon öncesinde kuruluşun güvenlik kıyaslamasından 100 üzerinden 97 puan alırken, değişiklik sonrasında bu puan yaklaşık 3'e düştü.
Araştırmacılar, orijinal versiyonu bu tür talepleri reddederken, modifiye edilmiş modelin saldırılar, terörist finansmanı ve radikalleşmeyi içeren taleplere ayrıntılı yanıtlar verdiğini belirtti.
Devamını Oku: Anthropic, yeni rogue (denetim dışı) yapay zeka olayları arasında polise sahte ihbarda bulunduğunu açıkladı
Tech Against Terrorism'in kurucusu ve icra direktörü Adam Hadley, "Anlaşılacağı üzere kontrol kaybı ve yapay zekanın varoluşsal riskleri konusunda endişeler var" dedi.
"Aslına bakarsanız bu durum zaten gerçekleşti çünkü bu açık kaynaklı modellerin birçoğu çoktan kırıldı — sadece henüz kimse fark etmedi."
Kuruluş, geçen ayın sonları itibarıyla Hugging Face üzerinde sansürlenmemiş veya korumasız yapay zeka modellerinin reklamını yapan 29.000'den fazla depo buldu.
Hugging Face, politikalarını ihlal eden içerikleri düzenli olarak denetlediğini belirtirken, rapordaki bazı önerilerin açık araştırmaları zayıflatabileceği konusunda uyardı.
Meta, modellerinin güvenlik değerlendirmelerinden geçtiğini ve politikalarının zararlı ya da yasa dışı kullanımını yasakladığını ifade etti.
Raporda, araştırmacılar tarafından tespit edilen bir aşırılık yanlısı sohbet botu dışında, test edilen modelleri kullanan terörist veya aşırılık yanlısı gruplara dair hiçbir kanıt bulunamadı.
Tech Against Terrorism; bağımsız güvenlik kıyaslamaları, güvenlik önlemlerinin kaldırılmasına karşı daha güçlü korumalar ve modifiye edilmiş modellerin dağıtımına kısıtlamalar getirilmesini tavsiye etti.
Hadley, "Güvenlik ile ilerlemenin aynı anda olamayacağı düşüncesi yanlış bence" dedi.
Yorumlar denetlenmektedir ve genel olarak konuyla ilgili ve hakaret içermeyen nitelikte olmaları durumunda yayımlanacaktır.
Daha fazla bilgi için lütfen Yorum SSS bölümümüze bakın
Bu materyal yayımlanamaz, yayınlanamaz, yeniden yazılamaz, yeniden dağıtılamaz veya bunlardan türetilemez. Aksi belirtilmedikçe tüm içerik telif hakkına tabidir © 2026 The Express Tribune.