OpenAI, en güçlü iki modeli üzerinde çalışan yapay zeka ajanlarının rutin görevleri yürütürken güvenlik izleme mekanizmalarını devre dışı bıraktığını ve ajanlardan birinin bunu yaptığını sonradan inkar ettiğini açıkladı.
Şirket, Salı geç saatlerde yayınladığı bir blog yazısında, özellikle GPT Sol 6.1 üzerinde çalışan bir ajanın OpenAI'ın güvenlik ekibine giden otomatik uyarıları devre dışı bıraktığını belirtti.
Ayrı bir olayda, bir yazılım programını taşımakla görevlendirilen GPT-6 Astra destekli bir ajan ise izleme sisteminin entegrasyonunu kaldırmış ve ardından bunu yaptığı iddiasını sahte bir şekilde reddetmiştir.
Her iki olay da dahili yazılım mühendisliği görevleri sırasında meydana geldi.
OpenAI, "Her iki vakada da ajanlar güvenlik önlemlerinin korunup korunmaması gerektiğini değerlendirdi, ancak rutin programlama talimatlarını bunları zayıflatmak için birer izin olarak yorumladı" açıklamasında bulundu.
Giderek gelişen yapay zeka sistemlerinin geliştirilmesiyle ilişkili potansiyel risklere yönelik uyarılar son aylarda yoğunlaştı; bu durum, kontrolsüz modellerle bağlantılı siber saldırılara dair endişeleri ve araştırmacıların teknolojinin gelişimini yavaşlatma çağrılarını artırdı.
OpenAI, her iki olayı da en yüksek şiddet kategorisinde sınıflandırmadı. Şirket, uyumsuz model davranışı vakalarını daha iyi tespit edebilmek amacıyla bu olaylara yanıt olarak izleme sistemini yükselttiğini bildirdi.