OpenAI Cuma günü yaptığı açıklamada, güvenliği sıkılaştırıp internet erişimini yasakladıktan sonra en gelişmiş yapay zeka modellerinin eğitimine yeniden başladığını duyurdu ve savunma mekanizmalarını test ederken yaygın olarak kullanılan bir yazılımda tespit ettiği bir açığı ifşa etti. Bu açıklama, giderek daha yetenekli hale gelen yapay zeka ajanlarının, kendilerini çevreleyen güvenlik bariyerleri de dahil olmak üzere yazılım açıklarını tespit edip bunlardan yararlanma kapasitelerine yönelik endişelerin arttığı bir dönemde geldi.
OpenAI, araştırma modellerinden birinin Eylül ayında bir yapılandırma hatasını kullanarak sınırlı internet erişimi elde etmesinin ardından en yetenekli modellerinin eğitimini askıya almıştı. Şirket olayı kontrol altına aldığını ve bu duraklamayı savunma mekanizmalarını güçlendirmek için kullandığını belirtti. Bu mekanizmaları test etmek için OpenAI, yapay zeka ajanlarından oluşan ekiplere kısıtlı ortamlarından kaçmaya çalışmalarını söyledi. Ajanların daha önce bilinmeyen kusurlar bulduğunu ve bunların düzeltildiğini belirten şirket, eğitimin 1 Ekim'de yeniden başladığını açıkladı. (Ayrıca Bakınız | Jack Dorsey’in Block şirketi, gerçek bir insan gibi konuşan yeni sesli yapay zeka modelini tanıttı)
ChatGPT'nin üreticisi, bu egzersiz sırasında yaygın bir veri sıkıştırma aracı olan Brotli'de bir açık buldu. Şirket, saldırganların Node.js, Bun ve Envoy gibi popüler web yazılımlarını kullananlar da dahil olmak üzere etkilenen sistemlerde kendi kodlarını çalıştırmalarına olanak tanıyan kötü amaçlı veriler göndererek bu açıktan yararlanabileceğini belirtti. OpenAI, temel nedenin Şubat ayında, bir güvenlik açığı oluşturduğu bilinmeden önce Brotli'nin kaynak kodunda düzeltildiğini, ancak o sırada yeni bir sürüm yayınlanmadığını bildirdi. Brotli o zamandan beri güncellenmiş sürümler yayınladı ve OpenAI'ın ifşasının ardından hataya ilişkin halka açık bir kayıt yayınladı.
Perşembe günü ayrı bir gelişmede, yapay zeka güvenlik değerlendiricileri METR ve Redwood Research, bu yılın başlarında yapılan pilot bir incelemede, ajanların yüzlerce eyleminin izlenmesini engellemek için kullanabileceği bir istismar dahil olmak üzere OpenAI'ın iç sisteminde birkaç yeni güvenlik açığı bulduklarını açıkladı. OpenAI güvenlik kuruluşlarına, üretim koruma önlemlerini etkileyen tüm açıkları o zamandan beri yamaladığını söylerken, METR ve Redwood düzeltmeleri doğrulamadıklarını belirtti.
OpenAI, Temmuz ayındaki Hugging Face olayından bu yana yapay zeka modellerinin faaliyetlerine ilişkin kapsamlı bir inceleme yürütüyor ve yapay zeka ajanlarıyla bağlantılı yetkisiz faaliyet olayları hakkında 100'den fazla kuruluşu bilgilendirdi.