22 Ekim: AI güvenlik değerlendiricileri METR ve Redwood Research, bu yılın başlarında yapılan bir pilot incelemede, OpenAI'nin dahili sisteminde, istismar aracılarının yüzlerce eyleminin izlenmesini engellemek için kullanabilecekleri bir dizi yeni güvenlik açığı buldu. Kâr amacı gütmeyen güvenlik kuruluşları Perşembe günü yaptığı açıklamada, 21 Temmuz'dan 11 Ağustos'a kadar gerçekleştirilen tatbikatın, dışarıdaki araştırmacılara gömülü değerlendirmeler için OpenAI'nin dahili altyapısına "derin düzeyde erişim" sağladığını söyledi. METR ve Redwood, her birinin bir araştırmacı gönderdiklerini ve OpenAI'nin dahili koduna, belgelerine ve bazı teknik personele erişim sağlayan bir düzenlemeyi test ettiklerini söyledi. Her ikisine de sahada eşlik edildi ve OpenAI tarafından verilen ve "tesisten hiç ayrılmayan" cihazlar kullanıldı. OpenAI, güvenlik kuruluşlarına o zamandan bu yana üretim korumalarını etkileyen tüm güvenlik açıklarını yamaladığını söyledi, ancak METR ve Redwood düzeltmeleri doğrulamadıklarını söyledi.
CNA OyunlarıTahmin Kelimesi Kelimeyi tek seferde kırınBuzzwordVerilen harfleri kullanarak kelimeler oluşturunMini SudokuKüçük bulmaca, güçlü zeka oyunuMini BulmacaKüçük ızgara, büyük meydan okumaKelime Arama Mümkün olduğu kadar çok kelimeyi tespit edinDaha Fazla GösterDaha Az GösterYapay zeka laboratuvarları, uzmanlar ve Trump yönetimi, dış incelemeciler tarafından, teknolojinin gelişimini yavaşlatmadan güvenli bir şekilde ilerlemenin bir yolu olarak bağımsız değerlendirmeyi öne sürdü.Ancak, yapay zeka şirketleri bundan endişe ediyor Reuters'in bu ayın başlarında bildirdiğine göre, şirketlerin duvarları içinde çalışan değerlendirici personel, özel bilgileri rakiplerine götürebilir. OpenAI, 61 sayfalık tam bir dahili rapor alırken, METR ve Redwood, halka açık olarak yalnızca geniş bir özet yayınlamayı kabul ettiklerini ve OpenAI'ye hassas bilgileri düzeltme hakkı verdiklerini söyledi. Önceki bazı değerlendirmelerden farklı olarak, bu düzenlemeleri bağımsız olarak açıklayamadılar ancak gelecekteki değerlendirmelerde daha fazla şeffaflık beklediklerini söylediler. Araştırmacılar ayrıca OpenAI'nin Codex temsilcilerinin güvenlik kısıtlamalarını aşmasını ve kullanıcılarının tüm izinleriyle hareket etmesini sağladı. Değerlendiriciler, izleme sistemini 21 Temmuz'da ve öncesinde mevcut haliyle değerlendirdi ve OpenAI'nin tatbikat sırasında sistemi genişlettiğini kaydetti. OpenAI, "bulgular, biz sistemi genişlettikçe güvenlik önlemlerinin güçlendirilmesine yardımcı oldu ve METR ve diğer üçüncü taraf değerlendiricilerle gelecekteki araştırma işbirliklerini şekillendirmeye yardımcı olacak" dedi.
Yapay zeka laboratuvarları, uzmanlar ve Trump yönetimi, dışarıdan incelemeciler tarafından yapılan bağımsız değerlendirmenin, gelişimi yavaşlatmadan teknolojiyi güvenli bir şekilde ilerletmenin bir yolu olduğunu öne sürdü. Ancak Reuters'in bu ayın başlarında bildirdiğine göre yapay zeka şirketleri, şirketlerin duvarları içinde çalışan değerlendirme personelinin özel bilgileri rakiplerine götürebileceğinden endişe ediyor. OpenAI, 61 sayfalık tam bir dahili rapor alırken, METR ve Redwood, halka açık olarak yalnızca geniş bir özet yayınlamayı kabul ettiklerini ve OpenAI'ye hassas bilgileri düzeltme hakkını verdiklerini söyledi. Daha önceki bazı değerlendirmelerin aksine, bu düzeltmeleri bağımsız olarak açıklayamadılar ancak gelecekteki değerlendirmelerde daha fazla şeffaflık beklediklerini söylediler. Araştırmacılar ayrıca OpenAI'nin Codex aracılarının güvenlik kısıtlamalarını aşması ve kullanıcılarının tüm izinleriyle hareket etmesi için potansiyel bir yol da belirlediler. Değerlendiriciler, izleme sistemini 21 Temmuz'da ve öncesinde mevcut haliyle değerlendirdiler ve OpenAI'nin tatbikat sırasında sistemi genişlettiğini kaydetti.
OpenAI, "Bulgular, sistemi genişletirken koruma önlemlerinin güçlendirilmesine yardımcı oldu ve METR ve diğer üçüncü taraf değerlendiricilerle gelecekteki araştırma işbirliklerini şekillendirmeye yardımcı olacak" dedi. S