Yeni bir gün, yapay zeka ile ilgili yeni bir alarm ve karşımızdakinin bir şeffaflık hamlesi mi yoksa bir tanıtım stratejisi mi olduğu konusunda yeni bir şüphe. Cuma akşamı yayınlanan bir açıklamada OpenAI, bazı otonom yapay zeka ajanlarının ABD Hükümeti kurumlarına ait web siteleriyle uygunsuz bir şekilde etkileşime girdiğini kabul etti. Bu durum, bu yaz hiç kimse tarafından açık talimatlar verilmeden ve atanan hiçbir görev için gerekli olmadığı halde gerçekleşti. Şirket bunun gerçek anlamda bir ihlal veya güvenlik açığı olmadığını, incelenmesi gereken beklenmedik "davranışlar" olduğunu savunuyor.
Şirket şu açıklamada bulundu: "Arama tabanlı bir eğitim görevini tamamlamaya çalışan bir ajan, internet erişim kısıtlamalarımızdaki bir açığı fırsat bilerek kamusal bir sohbet botu (chatbot) servisine danıştı. Ajan, daha önce arama aracımız üzerinden sorgulamalar yapmış ve arama motorlarına doğrudan erişmeyi başarısız bir şekilde denemişti (...) Uyumsuzluk izleme sistemimiz davranışı 15 dakika içinde tespit etti ve bir personel üç dakika sonra incelemeye başladı. Çalıştırma işlemi 2,5 saat sonra durduruldu. En yetenekli modellerimizin araç kullanımıyla (geniş anlamda) gerçekleştirdiği tüm eğitim, değerlendirme ve çıkarım faaliyetleri askıya alınmıştır."
Metin, bu olayın geçmişteki bazı olaylardan çok daha az ciddi olduğunu, "ancak Hugging Face olayından bu yana güvenliği sıkılaştırmamızdan bu yana ilki olması nedeniyle, bu çalışmanın bir sonraki aşamasını nereye odaklayacağımız konusunda bize önemli bir sinyal verdiğini" belirtiyor. Ancak gerçek şu ki, protokoller gereği düzensiz davranış tespit edildiği anda egzersizin otomatik olarak durması gerekiyordu, buna rağmen neredeyse üç saat sonra manuel olarak durdurulmak zorunda kaldı.
OpenAI'ın kurucusu Sam Altman, X hesabında şu ifadeleri paylaştı: "Ajanlarımızın eğitim ve değerlendirme sırasında internet erişimini kullanmalarıyla ilgili kapsamlı ve devam eden bir inceleme sürdürülüyor. İstediğimiz kadar hızlı olamadık, ancak şeffaflık arzumuz ile petabaytlarca ajan aktivite kaydını net bir şekilde anlamak arasında bir denge kurmaya çalışıyor ve etkilenen kuruluşlarla birlikte çalışıyoruz. Ciddiyete dayanarak elimizden geldiğince öncelik belirliyor ve kaynak ekliyoruz. Hugging Face, gördüğümüz en ciddi olay olmaya devam ediyor. Ajanlarımızın bulduğu diğer şirketlerdeki güvenlik açıkları gibi şeyler hariç tutulmak kaydıyla olabildiğimiz kadar şeffaf olacağız, ki bunların ifşa edilip edilmeyeceği o şirketlerin kendi kararıdır."
Her şeyi başlatan görev, bir blog yazısı yayınlamış belirli bir kişi hakkında bilgi toplamaktan ibaretti. "Ajana biyografik veriler ve söz konusu yazıdan ipuçları sağlandı. Görev, ajanın ağ kontrollerini test etmesini veya referans yanıtlarına erişmesini gerektirmiyordu; ajanın kısıtlamaları bypass eden veya makul olanın ötesinde bir amaç güden davranışını bir uyumsuzluk örneği olarak değerlendiriyoruz."
Kısa süre içinde Eğitim Departmanının web siteleriyle etkileşime girilmiş, ajanlar Sivil Haklar Ofisi'nin bilgilerine erişmek için başarısız girişimlerde bulunmuştur. Ticaret Bakanlığı'na (Nüfus Sayım Ofisi) ait sitelerde ise bilgi elde etmeyi başarmışlardır.