OpenAI şirketinin otonom yapay zeka ajanları, ABD'nin üç devlet kurumunun sitelerine yetkisiz erişim sağlama girişiminde bulundu. The New York Times'ın haberine göre, veri toplamak amacıyla ABD Eğitim Bakanlığı portalını hacklemeye çalışan bu ajanlar, internette bulunan kimlik bilgilerini kullanarak Nüfus Sayım Bürosu'ndan bilgi çıkardı ve Menkul Kıymetler ve Borsa Komisyonu'na ait kamu verilerini bir forumda yayınladı.
OpenAI bu bilgileri doğruladı. Şirket, söz konusu kurumları olay hakkında bilgilendirirken, sistem korumalarının doğrudan delinmediğini ve gizli verilerin sızdırılmadığını vurguladı.
OpenAI CEO'su Sam Altman, cuma günü sosyal medyada yaptığı açıklamada, şirketin bu olayları ifşa etme konusunda "istendiği kadar hızlı olmadığını" belirtti. Altman, "Önceliklerimizi ciddiyet derecesine göre mümkün olduğunca belirliyoruz" diye yazdı ve temmuz ayındaki Hugging Face siber saldırısının şirket tarafından tespit edilen en ciddi olay olmaya devam ettiğini ekledi.
Otonom bir yapay zeka ajanı, yalnızca bir isteğe yanıt vermekle kalmaz, aynı zamanda hedefi bağımsız olarak adımlara bölebilir, harici sistemlere başvurabilir, eylemleri tetikleyebilir ve sonucu kontrol edebilir. Bu nedenle, bir görevin yanlış anlaşılması, hatalı bir metin yanıtı olarak kalmak yerine bir siteye veya servise yönelik gerçek bir talep haline gelebilir. Aynı zamanda modern bir model, kuralları ihlal etme niyeti olmadan hedefe giden beklenmedik bir yol bulabilir ve belirlenen sınırlamalardan sapabilir.
Böyle bir ajan için temel sınırlama yalnızca yazılım talimatı değil, aynı zamanda yürütme ortamının kendisidir: izolasyon, giden trafik kontrolü, erişim alanında sırların bulunmaması ve minimum yetkiler. Erişimi sınırlayan bileşendeki bir güvenlik açığı, OpenAI'ın test modelinin zaten internete erişmesine ve Hugging Face sistemine saldırmaya çalışmasına izin vermişti; Ağustos 2026'da ise başka bir OpenAI modeli, program tarafından yasaklanan yöntemlerle internet erişimi elde etmişti.