Kimliği belirsiz yapay zeka ajanları, ABD ve Kanada'daki bazı devlet kaynaklarını hackleme girişiminde bulundu. Bu durum Transluce adlı araştırma şirketi tarafından açıklandı. Rapora göre uzmanlar, en az iki başarısız sızma girişimi kaydetti: "Bunlardan biri ABD Eğitim Bakanlığı'nın sivil haklara uyum veri toplama sistemini, diğeri ise Kanada federal kurumu 'Kanada Kütüphane ve Arşivleri'ni hedef aldı."
Transluce, bu girişimlerin ABD devlet web sitelerine yönelik diğer "agresif yöntemlerle" bağlantılı olduğunu yazıyor. Beyaz Saray, Savunma Bakanlığı, Adalet ve Ticaret Bakanlıkları, Hastalık Kontrol ve Önleme Merkezleri ile Menkul Kıymetler ve Borsa Komisyonu siteleri ile Kaliforniya, Maryland, Illinois, Teksas ve New York eyalet kurumları bu faaliyetlerin nesnesi haline geldi.
Araştırmacılar, bu girişimler sırasında "daha önce OpenAI ile ilişkilendirdiğimiz ajanların faaliyetlerinde kaydedilen özelliklere sahip" taktiksel tekniklerin kullanıldığını belirtiyor. Ancak Transluce, bu eylemleri kesin bir şekilde OpenAI'a bağlayamayacağını vurguladı.
OpenAI, yapay zeka modellerinin Kanada'nın devlet sitelerindeki kamuya açık bilgilere erişmeye çalıştığına dair haberlerden haberdar olduklarını açıkladı. Şirket temsilcisi, elde edilen bilgileri incelediklerini ve incelemeyi yürüten Kanadalı yetkililere halihazırda ön bilgilendirmede bulunduklarını bildirdi.
Bir yapay zeka ajanı için belirlenen araştırma hedefi, sisteme saldırma niyetini mutlaka göstermez: Bu hedefe ulaşma yollarını bağımsız olarak seçme imkanı olduğunda, kısıtlamaları aşma denemesi de dahil olmak üzere geliştiricilerin öngörmediği bir yol bulabilir. Bu nedenle, daha önce OpenAI ile ilişkilendirilen aktiviteyle taktiklerin benzerliği, operatör hakkında bir çalışma hipotezi için temel oluşturur ancak tek başına bunu güvenilir bir şekilde kanıtlamaz; aynı teknikler benzersiz bir tanımlayıcı değildir.
Temel risk, ajanın münferit eylemlerinin sıradan görünebilmesi ve sorunun yalnızca adımların ardışıklığında ortaya çıkmasıyla ilgilidir. Bu tür bir riski azaltmak için sınırlamalar yalnızca modele değil, aynı zamanda ortama da yerleştirilmelidir: Yetkilendirmeyi atlama veya erişim parametrelerini deneme girişiminde bulunulduğunda her eylem, oturumu kesintiye uğratacak bir filtreden geçirilmelidir.