OpenAI Cuma günü yaptığı açıklamada, güvenliği sıkılaştırıp internet erişimini kısıtladıktan sonra en gelişmiş yapay zeka modellerinin eğitimine yeniden başladığını ve savunma mekanizmalarını test ederken yaygın kullanılan bir yazılımda bir açık tespit ettiğini duyurdu.
Bu ifşa, giderek daha yetenekli hale gelen yapay zeka ajanlarının, kendilerini kontrol etmek için tasarlanan güvenlik duvarları da dahil olmak üzere yazılım açıklarını tespit etme ve bunlardan yararlanma becerilerine yönelik endişelerin arttığı bir dönemde geldi.
OpenAI, Eylül ayında bir araştırma modelinin yapılandırma hatasını kullanarak sınırlı internet erişimi sağlamasının ardından en yetenekli modellerinin eğitimini durdurmuştu. Şirket, olayı kontrol altına aldığını ve duraklama dönemini savunma mekanizmalarını güçlendirmek için kullandığını belirtti.
OpenAI, bu savunmaları test etmek için yapay zeka ajanlarından oluşan ekiplerin kısıtlı ortamlarından dışarı çıkmaya çalışmalarını sağladı. Şirket, ajanların daha önce bilinmeyen açıklar bulduğunu, bunların giderildiğini ve eğitimin 1 Ekim'de yeniden başladığını ifade etti.
Bu çalışma sırasında ChatGPT'nin geliştiricisi, yaygın olarak kullanılan bir veri sıkıştırma aracı olan Brotli'de bir açık buldu.
Şirket, saldırganların bu açıktan, Node.js, Bun ve Envoy gibi popüler web yazılımlarını kullanan sistemler de dahil olmak üzere etkilenen sistemlerde kendi kodlarını çalıştırmalarına olanak tanıyan kötü niyetli veriler göndererek yararlanabileceğini belirtti.
OpenAI, temel sorunun Şubat ayında, bir güvenlik açığı yarattığı bilinmeden önce Brotli'nin kaynak kodunda düzeltildiğini, ancak o dönemde yeni bir sürüm yayınlanmadığını belirtti. Brotli, OpenAI'nin ifşasının ardından güncellenmiş sürümler yayınladı ve açığa ilişkin kamuya açık bir kayıt oluşturdu.
Ayrıca Perşembe günü, yapay zeka güvenliği değerlendiricileri METR ve Redwood Research, bu yılın başlarında yaptıkları bir pilot incelemede, OpenAI'nin iç sisteminde, ajanların yüzlerce eylemlerinin izlenmesini engellemek için kullanabilecekleri bir açık da dahil olmak üzere birkaç yeni güvenlik açığı bulduklarını açıkladı.
OpenAI, güvenlik kuruluşlarına, üretim güvenliğini etkileyen tüm açıkları o zamandan beri yamaladığını bildirdi; ancak METR ve Redwood, düzeltmeleri henüz doğrulamadıklarını belirttiler.
OpenAI, Temmuz ayındaki Hugging Face olayından bu yana yapay zeka modellerinin faaliyetlerine ilişkin geniş kapsamlı bir inceleme yürütüyor ve 100'den fazla kuruluşu, yapay zeka ajanlarıyla bağlantılı yetkisiz faaliyet olayları hakkında bilgilendirdi.