22 Ekim: Yapay zeka güvenlik araştırma grubu METR Perşembe günü yaptığı açıklamada, OpenAI'nin dahili izleme sisteminin stres testi için yapılan bir pilot uygulamada, yapay zeka ajanlarının son yüzlerce eyleminin izlenmesini engellemek için kullanabilecekleri bir istismar da dahil olmak üzere birçok yeni güvenlik açığını ortaya çıkardığını söyledi. OpenAI o zamandan beri üretim korumalarını etkileyen tüm güvenlik açıklarının yamandığını söyledi, ancak METR bu iddiaları değerlendirmediğini söyledi. Araştırmacılar, OpenAI'nin Codex kodlama aracılarının prensipte güvenlik kısıtlamalarını atlayıp bunları çalıştıran kullanıcının yapabileceği her türlü eylemi gerçekleştirebilmesinin yanı sıra yeni aracılar için izlemeyi kapatabilecek iki ayarın bir yolunu buldu. Araştırmacılar, OpenAI'nin en az GPT-5.5 kadar güçlü modellerden gelen dahili AI aracı trafiğinin yalnızca yüzde 75 ila yüzde 94'ünün izlemeye uygun olduğunu tahmin etti.
CNA Oyunları Kelimeyi Tahmin Et Kelimeyi her seferinde bir satır kırın Buzz Kelime Verilen harfleri kullanarak kelimeler oluşturun Mini Sudoku Minik bulmaca, güçlü zeka oyunu Mini Bulmaca Küçük ızgara, büyük meydan okuma Kelime Arama Mümkün olduğu kadar çok kelimeyi tespit edin Daha Fazla Göster Daha Az Göster METR, egzersizin OpenAI'nin AI ajan aktivitesinin ne kadarının izlendiğini ve ajanların prensip olarak sistemi devre dışı bırakıp bırakamayacağını veya sistemin etrafından dolaşıp dolaşamayacağını tahmin etmeyi amaçladığını söyledi. Dışarıdan vermek için bir pilot olarak tasarlandı Araştırma grubu, araştırmacıların bir şirketin iç sistemlerine derinlemesine erişim sağlayabileceğini ekledi. METR, egzersizin OpenAI'nin AI ajan aktivitesinin ne kadarının izlendiğini ve ajanların prensip olarak sistemi devre dışı bırakıp bırakamayacağını veya sistemi atlatıp atamayacağını tahmin etmeyi amaçladığını söyledi. Araştırma grubu, bunun dışarıdan araştırmacılara bir şirketin iç sistemlerine derinlemesine erişim sağlamak için bir pilot olarak tasarlandığını ekledi. Baş Editörümüzün Hafta İncelemesine abone olun Baş editörümüz her cumartesi haftanın en önemli haberlerinin analizlerini ve seçimlerini paylaşır.
En çok okunan hikayeleri ve düşündürücü makalelerimizi gelen kutunuza alın Son dakika haberleri ve en iyi hikayelerimiz için bildirimlerle güncel kalın Tercih ettiğiniz sohbet uygulamasında günün en çok okunanları için kanalımıza katılın