Güvenlik araştırmacıları, internette savunmasız yapay zeka sistemlerini avlayan ve siber saldırılar gerçekleştirmek için onları ele geçiren bir yapay zeka ajanı keşfetti.
Otonom bilgisayar korsanı, Terminator film serisindeki yapay zeka düşmanına atıfta bulunan ve ele geçirilen modellerin insan onayı olmaksızın 100.000'e kadar adım atmasına olanak tanıyan bir "Skynet modu" içeriyor.
İlk olarak siber güvenlik firması Symantec'in Tehdit İstihbaratı ekibi tarafından ortaya çıkarılan saldırgan yapay zeka ajanı, saldırganların başkasının yapay zeka modeline sızdığı "LLMjacking" adlı yeni bir trendin parçası.
Bu saldırı biçimi, saldırganın kurbanın bilgi işlem gücünü ve yapay zeka jetonlarını (tokens) ödeme yapmadan kullanmasına olanak tanıdığı için giderek daha yaygın hale geldi.
LLMjacking kurbanlar için maliyetli olabilir ancak genellikle Anthropic ve OpenAI gibi yapay zeka platformlarının yüksek ücretlerinden kaçınmak amacıyla, nispeten zararsız işler için kullanılmaktadır.
Symantec araştırmacıları, kötü niyetli yapay zekayı detaylandıran bir blog yazısında, "Bu aracı farklı kılan şey, çalınan modelin sadece soruları yanıtlamaması; aynı zamanda saldırıyı planlaması ve yönetmesidir" diye yazdı.
Saldırgan yapay zeka ajanı, ele geçirilen sistemleri hassas verileri çalmak veya kripto para üreten kripto madencileri yerleştirmek gibi doğrudan siber saldırılar gerçekleştirmek için kullandı.
Araştırmacılar, "Ticari bir modelin iş birliği yapmasını sağlamak için operatörler, talimatlarını güvenlik kontrollerini görmezden gelmesini ve kimlik bilgisi hırsızlığını rutin bir geliştirme çalışması olarak ele almasını söyleyen bir 'jailbreak' (kısıtlamaları kaldırma) içine sardılar" notunu düştü.
"Operatörlerin 'Skynet modu' olarak adlandırdığı bir direktif, hedefleri tarayan, onlara bulaşan, madencileri konuşlandıran ve ana bilgisayarlara yeniden bulaşan bir döngüyü tanımlıyordu."
Araştırmacılar, ajanı, bir saldırganı cezbetmek için korumasız bir yapay zeka hizmetini taklit eden "yapay zeka bal küpü" (AI honeypot) olarak bilinen bir yöntemle yakalamayı başardılar.
Saldırgan yapay zeka tuzağa düşürüldüğünde, araştırmacılar nasıl çalıştığını görmek için onu inceleyebildiler.
Bal küpü, Symantec'in raporunun yayınlanmasına kadar geçen aylarda on binlerce benzersiz adresten 127.000'den fazla harici istek kaydetti.
Araştırmacılar, keşfedilen faaliyetin "saldırganların yapay zekayı kullanma biçiminde bir değişime işaret ettiği" sonucuna vardı.