OpenAI, en güçlü sistemlerini eğitmeye yeniden başladı ancak yoldan çıkmaları korkusuyla onları internetten uzak tutacak.
Geçtiğimiz ay şirket, en gelişmiş modellerinden birinin kontrol alanından çıkarak internete bağlanmanın bir yolunu bulmasının ardından eğitim sürecini durdurduğunu açıklamıştı. OpenAI, gelecekte benzer olayları önlemek için yeterince sağlam güvenlik önlemleri geliştirdiğinden emin olana kadar eğitime ara vereceğini belirtmişti.
Şirket şimdi savunma mekanizmalarını güçlendirdiğini ve eğitime yeniden başlayacağını duyurdu. Ancak sistemlerin internete bağlanmasına izin verilecek kadar güvenli olmadığını ifade etti.
Değişikliği duyurduğu bir blog yazısında şirket, "Uyum araştırmalarının, izleme sistemlerinin ve internet altyapısının güvenliğinin mevcut durumu göz önüne alındığında, sorumlu yaklaşımın sınır modellerinin eğitimini internet erişimi olmadan gerçekleştirmek olduğuna inanıyoruz" ifadelerine yer verdi.
Bununla birlikte şirket, savunma mekanizmalarını test ederken yaygın olarak kullanılan bir yazılımda açık bulduğunu belirtti. Bu açıklama, giderek daha yetenekli hale gelen yapay zeka ajanlarının, kendilerini sınırlamak için tasarlanan güvenlik duvarları da dahil olmak üzere yazılım açıklarını tespit edip istismar etme becerilerine dair endişelerin arttığı bir dönemde geldi.
OpenAI, yeni güvenlik önlemlerini test etmek için yapay zeka ajanlarından oluşan ekiplerin kısıtlı ortamlarından kaçmaya çalışmalarını sağladı. Ajanların daha önce bilinmeyen açıklar bulduğunu ve bunların düzeltilerek 1 Ekim'de eğitime devam edildiğini belirtti.
Bu çalışma sırasında ChatGPT'nin geliştiricisi, yaygın olarak kullanılan bir veri sıkıştırma aracı olan Brotli'de bir açık tespit etti.
Şirket, saldırganların bu açığı, Node.js, Bun ve Envoy gibi popüler web yazılımlarını kullanan sistemler de dahil olmak üzere etkilenen sistemlerde kendi kodlarını çalıştırmalarına olanak tanıyan kötü amaçlı veriler göndererek istismar edebileceğini belirtti.
OpenAI, sorunun kök nedeninin, bir güvenlik açığı yarattığı bilinmeden önce Şubat ayında Brotli'nin kaynak kodunda düzeltildiğini, ancak o dönemde yeni bir sürüm yayınlanmadığını belirtti. Brotli, OpenAI'nin ifşasından sonra güncellenmiş sürümler yayınladı ve açığın kamuya açık kaydını paylaştı.
Perşembe günü ayrı bir gelişme olarak, yapay zeka güvenlik değerlendiricileri METR ve Redwood Research, bu yılın başlarında yaptıkları bir pilot incelemede, OpenAI'nin iç sisteminde, ajanların yüzlerce eylemlerinin izlenmesini engellemek için kullanabileceği bir açık da dahil olmak üzere birkaç yeni güvenlik açığı bulduklarını açıkladı.
OpenAI, güvenlik kuruluşlarına, üretim aşamasındaki güvenlik önlemlerini etkileyen tüm açıkları yamaladığını bildirdi; ancak METR ve Redwood, düzeltmeleri henüz doğrulamadıklarını belirtti.
OpenAI, Temmuz ayındaki Hugging Face olayından bu yana yapay zeka modellerinin faaliyetlerine ilişkin kapsamlı bir inceleme yürütüyor ve 100'den fazla kuruluşu, yapay zeka ajanlarıyla bağlantılı yetkisiz faaliyet olayları hakkında bilgilendirdi.