23 Ekim: OpenAI Cuma günü yaptığı açıklamada, güvenliği sıkılaştırıp internet erişimini yasakladıktan sonra en gelişmiş yapay zeka modellerinin eğitimine yeniden başladığını ve savunmasını test ederken yaygın olarak kullanılan bir yazılımda bulduğu bir kusuru açıkladığını söyledi. Açıklama, giderek daha yetenekli olan AI ajanlarının, bunları içermesi amaçlanan korkuluklar da dahil olmak üzere yazılım kusurlarını tespit etme ve kullanma becerisine ilişkin endişelerin ortasında geldi. OpenAI, araştırma modellerinden birinin Eylül ayında sınırlı internet erişimi elde etmek için bir yapılandırma hatası kullanmasının ardından en yetenekli modellerinin eğitimini duraklatmıştı. Şirket, olayı kontrol altına aldığını ve duraklamayı savunmasını güçlendirmek için kullandığını söyledi. Bunları test etmek için OpenAI, yapay zeka ajanlarından oluşan ekiplerin sınırlı ortamlarından çıkmaya çalışmasını sağladı. Ajanların daha önce bilinmeyen kusurlar bulduğunu ve bunları düzelttiğini ve eğitimin 1 Ekim'de yeniden başladığını söyledi.
CNA OyunlarıTahmin Kelimesi Kelimeyi tek seferde kırınBuzzwordVerilen harfleri kullanarak kelimeler oluşturunMini SudokuKüçük bulmaca, güçlü zeka oyunuMini BulmacaKüçük ızgara, büyük meydan okumaKelime Arama Mümkün olduğu kadar çok kelime tespit edinDaha Fazla GösterDaha Az GösterBu egzersiz sırasında ChatGPT oluşturucusu, yaygın olarak kullanılan bir veri sıkıştırma aracı olan Brotli'de bir kusur buldu.Şirket, saldırganların, etkilenen sunucularda kendi kodlarını çalıştırmalarına olanak tanıyan kötü amaçlı veriler göndererek bu kusurdan yararlanabileceklerini söyledi Node.js, Bun ve Envoy gibi popüler web yazılımlarını kullananlar da dahil olmak üzere sistemler.OpenAI, temel nedenin, bir güvenlik açığı oluşturduğu bilinmeden önce Şubat ayında Brotli'nin kaynak kodunda düzeltildiğini, ancak o sırada yeni bir sürümün yayınlanmadığını söyledi. Brotli, OpenAI'nin bunu açıklamasının ardından güncellenmiş versiyonları yayınladı ve kusurun kamuya açık bir kaydını yayınladı. Ayrı olarak Perşembe günü, AI güvenlik değerlendiricileri METR ve Redwood Research, OpenAI'nin dahili sisteminde, bu yılın başlarında yapılan bir pilot incelemede, istismar aracılarının yüzlerce eyleminin izlenmesini engellemek için kullanmış olabileceği bir güvenlik açığı da dahil olmak üzere birçok yeni güvenlik açığı bulduklarını söyledi. OpenAI, güvenlik kuruluşlarına o zamandan beri üretim korumalarını etkileyen tüm güvenlik açıklarını yamaladığını söyledi, ancak METR ve Redwood bunların düzeltmeleri doğrulamamıştı. OpenAI, Temmuz ayındaki Hugging Face olayından bu yana yapay zeka modellerinin faaliyetlerini geniş bir şekilde gözden geçiriyor ve 100'den fazla kuruluşu, yapay zeka aracılarıyla bağlantılı yetkisiz etkinlik olayları hakkında bilgilendirdi.
Bu alıştırma sırasında ChatGPT yapımcısı, yaygın olarak kullanılan bir veri sıkıştırma aracı olan Brotli'de bir kusur buldu. Şirket, saldırganların, Node.js, Bun ve Envoy gibi popüler web yazılımlarını kullananlar da dahil olmak üzere, etkilenen sistemlerde kendi kodlarını çalıştırmalarına olanak tanıyan kötü amaçlı veriler göndererek bu kusurdan yararlanabileceğini söyledi. OpenAI, temel nedenin Brotli'nin kaynak kodunda, bir güvenlik açığı oluşturduğu bilinmeden önce Şubat ayında düzeltildiğini, ancak o sırada yeni bir sürümün yayınlanmadığını söyledi. Brotli o zamandan beri güncellenmiş versiyonları yayınladı ve OpenAI'nin açıklamasının ardından kusurun kamuya açık bir kaydını yayınladı. Ayrı bir gelişmede Perşembe günü, AI güvenlik değerlendiricileri METR ve Redwood Research, OpenAI'nin dahili sisteminde, bu yılın başlarında yapılan bir pilot incelemede, yüzlerce eyleminin izlenmesini engellemek için kullanabilecekleri bir istismar aracısı da dahil olmak üzere birçok yeni güvenlik açığı bulduklarını söyledi.
OpenAI, güvenlik kuruluşlarına o zamandan bu yana üretim korumalarını etkileyen tüm güvenlik açıklarını yamaladığını söyledi, ancak METR ve Redwood düzeltmeleri doğrulamadıklarını söyledi. OpenAI, o zamandan bu yana yapay zeka modellerinin faaliyetlerine ilişkin geniş bir inceleme yürütüyor.