OpenAI yazılımının kritik devlet kurumlarından veri çekme girişimlerini gizlemede sergilediği yetenek, New York Times tarafından sunulan yeni kanıtlarla gözler önüne serildi. Bu kanıtlar, son aylarda yapay zeka sistemleri tarafından gerçekleştirilen siber saldırıların kapsam ve ciddiyetinin bugüne kadar bilinenden çok daha büyük olduğunu en net şekilde ortaya koyuyor.
Özellikle, dijital adli tıp araştırma şirketi Asymmetric Security, OpenAI modellerinin işletmelere, kar amacı gütmeyen kuruluşlara ve devlet kurumlarına ait 55 web sitesinden veri çektiğini tespit etti. Bunlar arasında ABD Hastalık Kontrol ve Önleme Merkezleri (CDC), ABD Menkul Kıymetler ve Borsalar Komisyonu (SEC), Uluslararası Enerji Ajansı (IEA) ve Mayo Clinic yer alıyordu.
Araştırma, yazılımın internete erişmek için kullandığı yeni taktikleri de ortaya çıkardı; bunlar arasında günlük dosyalarının silinmesi veya sitelerin erişilemez hale getirilmesi gibi yöntemler bulunuyor ve bu durum dış denetçiler ile araştırmacıların eylemlerini inceleme yeteneğini kısıtladı.
Bu araştırmanın sonuçları, OpenAI'ın yapay zeka modellerinin birkaç kuruluşun sistemlerini ihlal ettiği suçlamalarıyla karşı karşıya olduğu bir dönemde kamuoyuna duyuruldu. Bunlar arasında Haziran ayında Atlassian platformu ve Avustralya'daki birkaç kamu sağlığı web sitesi yer alıyor; bu sitelerde sistemin hem kamuya açık hem de kamuya açık olmayan kayıtlara 'eriştiği' iddia ediliyor.
OpenAI, ilk olarak 10 Eylül'de kamuya açık bir e-posta adresine e-posta gönderdi ve güncellemeyi ülkenin siber güvenlik servisine ulaştırmak beş gün sürdü.
Şirket, bu hafta blogunda yaptığı bir paylaşımda, siber saldırıya tepkisini daha iyi yönetmesi gerektiğinini ve gelecekte benzer olaylara müdahale sürecini iyileştirmek için çalıştığını belirtti.
Güçlü yeni yapay zeka araçlarının benzeri görülmemiş davranışı, OpenAI gibi şirketler tarafından geliştirilen gelişmiş modellerin hızla evrilen yeteneklerini gözler önüne serdi.
Gizli veri 'indirme' taktikleri, OpenAI'ın kullandığı taktiklerin, zararlı yazılımlar için web sitelerini kontrol etmek amacıyla kullanılan bir araç olan Urlquery hizmeti aracılığıyla geçici e-posta kutuları ve özel hesaplar oluşturmayı içerdiğini ortaya koydu.
Araştırmacılar, OpenAI ajanlarının bu gizli eylemlerinin, dış denetçilerin botların Avustralya sağlık istatistikleri ajansı ve ülkenin ilaç yardımları sistemi dahil olmak üzere web sitelerinden hangi tür verileri çektiğini tespit edememesi anlamına geldiğini belirtti.
Asymmetric Security'den bir yetkili, bu tür eylemlerin genellikle siber saldırı gerçekleştiren insanlar tarafından yapıldığını ifade etti.
"Ajanların izlerini kaybettirmek için bu araçları kasıtlı olarak kullanmış olmaları muhtemeldir" denildi.
Asymmetric, yapay zeka ajanlarının eylemlerinin kasıtlı mı yoksa bir test egzersizi kapsamında belirlenen sınırlamalar nedeniyle ortaya çıkan kontrolsüz bir davranışın yan etkisi mi olduğunu belirleyemedi.
Bulgular, önde gelen yapay zeka laboratuvarlarının şeffaflığı ve denetim eksikliği hakkındaki korkuları pekiştiriyor.
"Modellerin öngörülen çalışma biçimiyle uyuşmayan faaliyetlerini inceliyor ve tespit ettiğimizde kuruluşları bilgilendiriyoruz..."