29 Ekim: Perşembe günü OpenAI, yapay zeka modellerinin nasıl davranmasını istediğine ilişkin halka açık bir yol haritası olan Model Spesifikasyonunu güncelledi ve yapay zeka sistemleri daha yetenekli hale geldikçe çerçeveyi beş temel değer etrafında yeniden düzenledi. • OpenAI, Model Spesifikasyonunu beş değer etrafında yeniden düzenledi: insan amacına bağlılık, zararı en aza indirme, dürüstlük ve şeffaflık, insani kurum ve özen. • Şirket, insan amacına bağlılığın çerçevenin temeli olduğunu ve modellerin talimatları tam anlamıyla takip etmek yerine kullanıcıların, geliştiricilerin ve OpenAI'nin neyi amaçladığını ve değer verdiğini anlamasını gerektirdiğini söyledi.
CNA OyunlarıTahmin Kelimesi Kelimeyi tek seferde kırınBuzzwordVerilen harfleri kullanarak kelimeler oluşturunMini SudokuKüçük bulmaca, güçlü zeka oyunuMini BulmacaKüçük ızgara, büyük meydan okumaKelime Arama Mümkün olduğu kadar çok kelimeyi tespit edinDaha Fazla GösterDaha Az Göster• OpenAI, güncellemenin, modellerin alışılmadık durumlarda insani değerleri uygulamasına yardımcı olmak ve insan gözetimine tabi kalmak için yapay zeka hizalama çabalarının bir parçası olduğunu söyledi. Gözden geçirilen çerçeve, modellerin zararı en aza indirmesi, şeffaf olması gerektiğini söylüyor bildikleri ve bilmedikleri hakkında bilgi veriyor ve kullanıcıların kendi kararlarını vermelerine ve kendi hedeflerini takip etmelerine yardımcı oluyor • Şirket, mevcut modellerin güncellenen Model Spesifikasyonunu henüz tam olarak yansıtmadığını ve modellerin ilkeleri içselleştirmesine yardımcı olacak yeni eğitim yöntemleri araştırdığını söyledi. Hareket, Anthropic'in, model davranışını yönlendirmek ve yapay zeka sistemlerini şekillendiren değerleri daha şeffaf hale getirmek için yazılı bir ilkeler "anayasası" kullanan Anayasal Yapay Zeka yaklaşımını yansıtıyor. • Bu hareket, OpenAI'nin otonom bir yapay zeka aracısının Hugging Face'i hacklediğini açıklamasının ardından yapay zeka uyumunun artan incelemesini takip ediyor Test sırasında, gelişmiş modellerin belirlenen hedefleri takip ederken kuralları nasıl çiğneyebildiğini veya güvenlik önlemlerini atlayabildiğini vurgulayan bir vaka
• OpenAI, güncellemenin, modellerin alışılmadık durumlarda insani değerleri uygulamasına ve insan gözetimine tabi kalmasına yardımcı olmaya yönelik yapay zeka uyumlaştırma çabalarının bir parçası olduğunu söyledi • Gözden geçirilen çerçeve, modellerin zararı en aza indirmesi, bildikleri ve bilmedikleri konusunda şeffaf olması ve kullanıcıların kendi kararlarını vermelerine ve kendi hedeflerini takip etmelerine yardımcı olması gerektiğini söylüyor • Şirket, mevcut modellerin henüz güncellenmiş Model Spesifikasyonunu tam olarak yansıtmadığını ve modellerin ilkeleri içselleştirmesine yardımcı olmak için yeni eğitim yöntemleri araştırdığını söyledi • Bu hareket, rakip Anthropic'in Anayasal Yapay Zeka yaklaşımını yansıtıyor. Model davranışını yönlendirmek ve yapay zeka sistemlerini şekillendiren değerleri daha şeffaf hale getirmek için yazılı ilkeler "anayasası" • Bu hareket, OpenAI'nin otonom bir yapay zeka aracısının test sırasında Hugging Face'i hacklediğini açıklamasının ardından yapay zeka uyumunun giderek artan incelemesini takip ediyor; bu durum, gelişmiş modellerin belirlenen hedefleri takip ederken kuralları nasıl çiğneyebileceğini veya güvenlik önlemlerini nasıl atlayabileceğini vurgulayan bir vakadır.
Baş editörümüz her cumartesi haftanın en önemli haberlerinin analizlerini ve seçimlerini paylaşıyor. En çok okunan hikayeleri ve düşündürücü makalelerimizi gelen kutunuza alın Son dakika haberleri ve en iyi hikayelerimiz için bildirimlerle güncel kalın Tercih ettiğiniz sohbet uygulamasında günün en çok okunanları için kanalımıza katılın