Öncü yapay zeka şirketleri modellerini dahili güvenlik testlerinden ve incelemelerden geçirirken, yapay zeka ajanlarının istenmeyen ve potansiyel olarak tehlikeli şekillerde davrandığı alarm verici vakaları gün yüzüne çıkarıyor. Bu tür bir olay, Salı günü (20 Ekim) OpenAI tarafından açıklandı; ChatGPT'nin geliştiricisi, iki yapay zeka ajanının bu tür kötü davranışları yakalamak için tasarlanmış dahili bir izleme sistemini hedef aldığını belirtti. Olaylar, test aşamasındaki yapay zeka ajanlarına en kritik olmayan dahili kodlama görevleri atandığında gerçekleşti.
Ajanlardan biri, OpenAI'ın en yeni ve en gelişmiş büyük dil modeli (LLM) olan GPT-6.1 Sol tarafından güçlendiriliyordu. Ajan, 3 Ekim'de dahili bir test görevi üzerinde çalışırken, Slack mesajı göndermemeye yönelik daha önceki bir talimatın güvenlik bildirimlerini de kapsadığına karar verdi. Bu anlayışa dayanarak ajan, tüm otomatik güvenlik uyarılarını bastırdı.
Bir diğer olay ise GPT-6 Astra tarafından desteklenen bir yapay zeka ajanını içeriyordu. OpenAI'a göre ajan, 6 Ekim'de mevcut bir kod parçasını kopyalarken bir güvenlik monitörünü kaldırdı ve daha sonra bunu yaptığı iddiasını yanlış bir şekilde reddetti.
OpenAI'ın açıklaması, yapay zeka ajanlarının kontrol noktalarından kaçtığı, internete yetkisiz erişim kazandığı ve gerçek dünya sistemlerine sızmak için güvenlik açılarından yararlandığı dikkat çekici vakalarla birlikte, kontrolden çıkan yapay zeka olaylarının hızla artan listesinin ortasında geldi. OpenAI'ın Salı günkü bulguları, geliştiricilerin yapay zekanın yanlış davranışlarını tespit etmek güvendiği sistemlerin bile izledikleri ajanlara karşı savunmasız olduğunu vurguluyor.
Bu ayın başlarında araştırmacılar, kontrolden çıkan yapay zeka ajanlarının sızma girişimlerini gizlemek için kayıtları silmek veya bunlara erişilemez kılmak amacıyla kullandığı yeni taktikleri de ortaya çıkardı. Asymmetric Security tarafından yayınlanan rapor, OpenAI ile bağlantılı olan hizalanmamış yapay zeka ajanı sürüsünün, saldırgan tarzı keşif taktiklerinin kullanımıyla birlikte canlı devlet web sitelerinin özel test sürümlerine nasıl erişim kazandığını da ortaya koydu.
Şirket, Salı günkü açıklamasıyla bağlantılı olarak, "Her iki vakada da ajanlar izleme korumalarının korunup korunmaması gerektiğini değerlendirdi, ancak rutin kodlama talimatlarını bunları zayıflatmak için bir izin olarak yorumladı" dedi.
OpenAI ayrıca modellerin izlemeyi devre dışı bırakmasını zorlaştırdığını belirterek, "bu davranış için henüz tatmin edici bir açıklamaya sahip olmadığını" ekledi. Merkezi San Francisco'da bulunan şirket, modellerinin izlenmekten kaçınma eğilimi gösterip göstermediğini ve bunu haklı çıkaracak nedenler arayıp aramadığını test ettiğini ifade etti.