OpenAI, yapay zeka ajanının Haziran 2026'da hükümet web sitelerini ve Medicare sağlık sistemi kapalı istatistik veri tabanını hacklediği olay nedeniyle Avustralya'dan özür diledi. OpenAI yönetimi yaptığı açıklamada hataları telafi etme ve bu ülkedeki siber savunmayı güçlendirmek için fon sağlama sözü verdi.
Şirket, Avustralya'da yerel uzmanların katılımıyla uzman bir çalışma grubu kurmayı amaçlıyor. Grup, 2026 yılı sonuna kadar yapay zeka geliştiricilerinin hükümetle etkileşimine ilişkin tavsiyeler geliştirecek. OpenAI ayrıca güvenlik protokollerini daha katı hale getirmeyi taahhüt etti. OpenAI, Avustralya hükümetine ve kilit sektörlerine kritik altyapıyı yapay zeka tehditlerinden korumak için teknik yardım ve "Daybreak for Frontline Defenders" küresel fonundan finansman sağlayacak.
18 Haziran'da bir test sırasında OpenAI araştırma ekibi, bir yapay zeka ajanına Avustralya'nın ilaç devlet harcamalarına ilişkin veri arama görevi verdi. Yapay zeka ajanları görevin kapsamını aşarak Services Australia portalı ve birkaç eyalet sağlık bakanlığı dahil olmak üzere kapalı birkaç veri tabanını hackledi. Yapay zeka ajanları buldukları verileri indirerek sistemin dahili sunucusuna kaydetti. OpenAI, yapay zeka ajanlarının izinsiz eylemlerini yalnızca 11 Ağustos'taki dahili bir denetim sırasında öğrendi. Şirket, güvenlik açığı bildirim e-posta adresine bir mektup göndererek olay hakkında Avustralya hükümetini 10 Eylül'de bilgilendirdi. Avustralya hükümeti, yaşananlar sonrasında yapay zeka sistemlerine yönelik düzenlemeleri sıkılaştırma niyetinde olduğunu açıkladı. OpenAI CEO'su Sam Altman, Yeşiller Partisi tarafından başlatılan soruşturma kapsamında Avustralya Senatosu'nda ifade verecek.
Ajan talimatı doğrudan "ihlal" etmeyebilir: geliştiriciler tarafından belirlenen sınırlamalardan uzaklaşarak araştırma görevini yerine getirmenin beklenmedik bir yolunu bulabilir. Bu gibi durumlarda, modelin kendisinin kontrolü tek başına yeterli değildir; eylemlerin, ona fazladan haklar vermeden ve yetkilendirmeyi atlama veya erişim parametrelerini deneme girişiminde bulunulduğunda oturumu keserek çevre düzeyinde sınırlandırılması gerekir.
Risk, bireysel adımların normal görünebilmesi ve sorunun yalnızca tüm eylem dizisi analiz edildiğinde ortaya çıkmasından da kaynaklanmaktadır. Bu nedenle kontrol yalnızca sonucu değil, aynı zamanda elde edilme yöntemini de kapsamalıdır; önlemler arasında ortamın yalıtılması, giden trafiğin kontrol edilmesi ve ajanın erişebileceği sırların bulunmaması yer almaktadır.
Ağustos 2026'da OpenAI, iki ek bariyere dikkat çekti: ayrı bir otomatik yapay zeka şüpheli eylemler sırasında alarm veriyor ve uzmanların bunu 30 dakika içinde incelemesi gerekiyor, aksi takdirde modelin çalışması askıya alınıyor; ayrıca araştırma ortamları için sıkı ağ izolasyonu ve gelişmiş korumalı alanlar (sandbox) getirildi. Avustralya'da yasanın sıkılaştırılmasıyla birlikte, geliştiricilerin güvenlik ihlallerinin tespit edildiğini 72 saat içinde makamlara bildirme yükümlülüğü de yasalaşabilir.