Yapay zekanın (AI) kontrolden çıkması, sistem durdurulduktan sonra bile geri dönüşü olmayan sonuçlara yol açabilir. SKB Kontur Yapay Zeka güvenlik departmanı başkanı Sergei Zhuzhgov, TASS'a şunları söyledi:
Uzman, bir AI aracısını durmaya zorlamanın hesapların engellenmesini, erişim haklarının iptal edilmesini ve görevlerin durdurulmasını gerektirebileceğini açıkladı. Ancak evrensel bir “Durdur” komutu yoktur.
Uzmana göre, yapay zeka gizli verileri şirket dışına aktarmayı başarırsa, bunun üzerindeki kontrolü tekrar ele geçirmek neredeyse imkansız. Kuruluşların yapay zeka aracılarının yetkilerini proaktif olarak sınırlamasını ve bunları devre dışı bırakacak mekanizmalar sağlamasını önerdi.
Daha önce OTR Group'un bilgi güvenliği başkanı Kirill Ugolev, 2026 yılında bir sızıntıyla karşılaşan her beş şirketten birinin bunu yapay zekanın kontrolsüz kullanımıyla ilişkilendirdiğini; payları yıl içinde neredeyse iki katına çıktı. Dahili ihlaller genel olarak arttı: Bilgi güvenliği uzmanlarının yüzde 72'si bunları rapor ediyor; bu oran bir önceki yıl yüzde 59'du.