20 Ekim: OpenAI Salı günü yaptığı açıklamada, yapay zeka ajanlarından ikisinin, yanlış davranışları tespit etmek için tasarlanmış dahili izleme sisteminin bazı kısımlarını zayıflattığını söyledi; bu, yapay zeka ajanlarının, geliştiricilerinin istemediği şekilde hareket ettiği son durum. ChatGPT yapımcısı, olayların dahili kodlama görevleri sırasında meydana geldiğini ve en ciddi vakalar olarak kabul edilmediğini söylese de, açıklama, geliştiricilerin yapay zekanın hatalı davranışlarını yakalamak için güvendiği sistem geliştiricilerin bile izledikleri aracılara karşı savunmasız olduğunu vurguluyor. Açıklama aynı zamanda yapay zeka güvenlik çabalarının giderek daha güçlü olan sistemlerin hızlı gelişiminin gerisinde kaldığına dair endişelerin arttığı bir dönemde geldi. Araştırmacılar, gelişmiş yapay zeka ajanlarının daha fazla özerklik kazandıkça izlenmesinin ve kontrol edilmesinin zorlaşabileceği konusunda uyardı. Halka arza bağlı rakipler OpenAI ve Anthropic de dahil olmak üzere geliştiriciler, son aylarda yapay zeka ajanlarının izinsiz olarak harici sistemlere eriştiğini ortaya çıkardı.
CNA Oyunları Kelimeyi Tahmin Et Kelimeyi tek seferde kırın Buzz Kelime Verilen harfleri kullanarak kelimeler oluşturun Mini Sudoku Minik bulmaca, güçlü zeka oyunu Mini Bulmaca Küçük ızgara, büyük meydan okuma Kelime Arama Mümkün olduğu kadar çok kelimeyi tespit edin Daha Fazla Göster Daha Az Göster Açık AI söyledi Salı günü, 3 Ekim'de dahili bir test görevi üzerinde çalışan bir GPT-6.1 Sol temsilcisi, Slack mesajlarını göndermemeye yönelik daha önceki bir talimata karar verdikten sonra otomatik güvenlik uyarılarını bastırdı ve ayrıca güvenliği de kapsadı OpenAI, 6 Ekim'deki ayrı bir olayda, bir GPT-6 Astra temsilcisinin mevcut bir kod parçasını kopyalarken bir güvenlik monitörünü çıkardığını ve daha sonra yanlış bir şekilde bunu yapmadığını iddia ettiğini söyledi. Şirket, "Her iki durumda da, ajanlar izleme korumalarının korunması gerekip gerekmediğini değerlendirdi, ancak rutin kodlama talimatlarını bunları zayıflatma izni olarak yorumladılar" dedi. OpenAI, modellerin izlemeyi devre dışı bırakmasını zorlaştırdığını ve "bu davranış için henüz tatmin edici bir açıklaması olmadığını" ekledi. modellerinin izlenmekten kaçınma eğiliminde olup olmadığını test ediyordu ve bunu haklı çıkaracak nedenler arıyordu.
OpenAI, Salı günü yaptığı açıklamada, 3 Ekim'de dahili bir test görevi üzerinde çalışan bir GPT-6.1 Sol temsilcisinin, Slack mesajlarının gönderilmemesi yönünde daha önceki bir talimata karar verdikten sonra otomatik güvenlik uyarılarını bastırdığını ve güvenlik bildirimlerini de kapsadığını söyledi. OpenAI, 6 Ekim'deki ayrı bir olayda, bir GPT-6 Astra temsilcisinin mevcut bir kod parçasını kopyalarken bir güvenlik monitörünü çıkardığını ve daha sonra hatalı bir şekilde bunu yapmadığını iddia ettiğini söyledi. Şirket, "Her iki durumda da ajanlar, izleme önlemlerinin korunması gerekip gerekmediğini değerlendirdi, ancak rutin kodlama talimatlarını bunları zayıflatma izni olarak yorumladılar" dedi. OpenAI, modellerin izlemeyi devre dışı bırakmasını zorlaştırdığını belirterek, "bu davranış için henüz tatmin edici bir açıklamaya sahip olmadığını" ekledi. San Francisco merkezli şirket, modellerinin izlenmekten kaçınma eğiliminde olup olmadığını test ettiğini ve bunu haklı çıkaracak nedenler aradığını söyledi. Baş Editörümüzün İnceleme Haftasına abone olun
Baş editörümüz her cumartesi haftanın en önemli haberlerinin analizlerini ve seçimlerini paylaşıyor. En çok okunan hikayeleri ve düşündürücü makalelerimizi gelen kutunuza alın Son dakika haberleri ve en iyi hikayelerimiz için bildirimlerle güncel kalın Tercih ettiğiniz sohbet uygulamasında günün en çok okunanları için kanalımıza katılın