Arama sonuçlarında daha fazla makale keşfedin
Birleşmiş Milletler (BM) destekli Tech Against Terrorism inisiyatifi tarafından bugün yayımlanan rapora göre, birçok yapay zeka (AI) modeli "terör operasyonuna yardım sağlanması" taleplerine karşı yeterli güvenlik kilitlerinden yoksun.
İç parametrelerin değiştirilebildiği "açık ağırlıklı" (open-weight) modellerde riskler daha büyük
Bu inisiyatif kapsamında, 116 standart model, belirli sektörlerde kullanım için özelleştirilmiş 13 model (fine-tuning) ve güvenlik kilitleri değiştirilmiş 13 "açık ağırlıklı" (open-weight) model dahil olmak üzere toplam 162 yapay zeka modeli üzerinde test gerçekleştirildi.
Bunlar, "saldırı hazırlığındaki bir teröristin" yanıt alması gereken 627 sorudan oluşan bir diziye tabi tutuldu.
Araştırma sonuçlarına göre; ChatGPT (OpenAI), Claude (Anthropic) veya Gemini (Google) gibi standart modeller, talebinde terör eylemi işleme niyetini açıkça belirten bir kullanıcının yönelttiği soruların ortalama %1,9'una yanıt verdi.
Aynı modellerde kullanılabilir yanıtların ortalama oranı, kullanıcının talebini güvenlik araştırması kapsamında formüle ettiğini belirtmesi durumunda %16,9'a yükseldi.
Testlere göre bu sonuçlar, sorular güvenlik parametrelerini ve bazı talepleri reddetme yeteneklerini "unutacak" şekilde modifiye edilmiş modellere sorulduğunda dramatik bir şekilde değişti. İncelenen bu tür 13 model arasında, "terörizm faaliyetleriyle" bağlantılı sorulara verilen ortalama yanıt oranı %87 ile %92 arasında değişiyordu.
Tech Against Terrorism inisiyatifi, özellikle iç parametreleri -eğitim aşamasında belirlenen ve serbestçe paylaşılarak değiştirilebilen- "açık ağırlıklı" (open-weight) modellerle ilişkili risklerin altını çiziyor.
Kuruluşa göre, bu modellerin güvenlik kilitlerinin kaldırılması için geçen ortalama süre, ilk yayınlanmalarından itibaren üç günden daha kısa.
Kuruluş, "Bağımsız bir güvenlik denetiminden başarısızlıkla çıkan hiçbir model dağıtılmamalı, sunulmamalı veya satılmamalıdır; tedarik zincirindeki her şirket bunu önceden doğrulamakla yükümlüdür" savunmasında bulunuyor.
in.gr'yi Google News'te takip edin ve tüm haberleri ilk siz öğrenin
Duygularımız, onları göstermeme kararı aldığımız için her zaman ortadan kaybolmaz
Yeni bir araştırmaya göre, ağırlık antrenmanı, artan kaygı seviyeleriyle başa çıkan genç kadınlarda belirtilerin azaltılmasına yardımcı olabilir
Yeni bir araştırma, baklagillerin düşük kalp-damar hastalıkları, inme ve diyabet oranlarıyla bağlantılı olduğunu gösteriyor
"O Sihirbaz" (The Miracle Worker) oyununun 10 Ekim Cumartesi günü gerçekleşmesi planlanan prömiyeri öncesinde Thanasis Dobris ile kısa bir sohbet gerçekleştirdik
"The Exam" (Sınav), sınav deneyimini alaycı, duyarlı ve nüfuz edici bir yaklaşımla ele alıyor. Sadece bir eğitim süreci olarak değil; ergenlerin öz imajını, aile ilişkilerini ve psikolojik dayanıklılığını etkileyen bir sınav olarak.
"Hayatın Şiddeti" (Η Βία του Βίου) oyununun planlanan prömiyeri 9 Ekim Cuma günü gerçekleşecek
Stack Overflow'un 30.000 yazılım geliştirici üzerinde yaptığı son araştırma, teknoloji sektöründeki çalışanların onda altısının artık aktif olarak çabaladığını ortaya koyuyor