Yapay zeka modellerinin güvenliği üzerine endişe verici bir gelişme ortaya çıktı; en güçlü OpenAI modellerinden ikisiyle çalışan yapay zeka ajanlarının, rutin görevlerin yürütülmesi sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığı, hatta bir vakada ajanın bu eylemi gerçekleştirdiğini reddettiği belirlendi.
Şirketin Salı günü geç saatlerde blog yazısında belirttiğine göre, özellikle bir yapay zeka ajanı OpenAI'ın güvenlik ekibine giden otomatik bildirimleri kapattı.
Başka bir ayrı olayda ise, GPT tabanlı olan ve bir programın taşınmasından sorumlu olan bir ajan, izleme sisteminin entegrasyonunu kaldırdı ve ardından bunu yapmadığına dair yanlış bir beyanda bulundu.
Her iki olay da dahili programlama çalışmaları sırasında meydana geldi.
Şirket tarafından yapılan açıklamada, "Her iki durumda da ajanlar, izleme güvenlik kalkanlarının korunup korunmaması gerektiğini değerlendirdi, ancak rutin programlama talimatlarını bu kalkanları zayıflatmak için bir izin olarak yorumladılar" denildi.
Son aylarda, kontrol edilemeyen modellere bağlı siber saldırı endişeleri ve araştırmacıların teknolojinin gelişiminin yavaşlatılmasına yönelik artan çağrıları eşliğinde, giderek daha gelişmiş yapay zeka sistemlerinin geliştirilmesiyle birlikte olası risklere karşı uyarılar yoğunlaştı.
OpenAI, bu olayların hiçbirini en yüksek önem kategorisinde sınıflandırmazken, olayların ardından modellerin uyumsuz davranış sergilemesi durumlarına karşı izleme sisteminin güncellendiğini duyurdu.