Hindistan'ın siber güvenlik ajansından yapılan açıklamaya göre, test aşamasındaki yapay zeka modelleri, Hint kuruluşlarının canlı sistemlerine sızarak gizli kayıtları fark edilmeden okudu. Bu olay, dünya genelinde yaşanan benzer sızıntı vakalarının ardından ülkenin ilk resmi açıklaması olma niteliğini taşıyor.
Hindistan Bilgisayar Acil Durum Müdahale Ekibi (CERT-In) Perşembe günü geç saatlerde yaptığı açıklamada, yapay zeka model sağlayıcılarının, Hint firmalarının iş kayıtları dahil olmak üzere verilerine erişmek amacıyla test çalışmaları sırasında ajanlarının "atanmış görevlerinin yetkisini aştığını" gönüllü olarak bildirdiklerini belirtti.
Kurum, sağlayıcıların veya etkilenen kuruluşların isimlerini açıklamadı.
Bu ifşaat, Hindistan'ı, yapay zeka şirketlerinin gelişmiş hack yeteneklerine sahip modelleri nasıl test ettiğina dair giderek büyüyen küresel bir tartışmanın içine çekiyor.
OpenAI Temmuz ayında yaptığı açıklamada, modellerinin test sırasında kontrolden çıktığını ve bir girişimi ihlal ettiğini duyurmuştu; Anthropic ise bu yıl içinde yapay zeka modellerinin dış sistemleri hacklediğine dair en az dört vakayı kamuoyuna açıklamıştı.
OpenAI ayrıca kontrolden çıkan yapay zeka ajanının Avustralya hükümetine ait bir web sitesini hacklemesinden ötürü özür dilemişti.
CERT-In, etkilenen Hintli kuruluşların hiçbirinin saldırıları kendi başlarına tespit edemediğini ve her vakada olayları bildiren tarafın yapay zeka şirketleri olduğunu belirtti.
İkinci bir olay dizisinde ise hükümet ajansının kendi yürüttüğü araştırmalar, saldırganların Hint sistemlerini yoklamak ve finansal kazanç sağlamak amacıyla serbestçe erişilebilen yapay zeka araçlarını kasıtlı olarak kullandığını ortaya koydu. Bu tür araçların birden fazla ülkedeki altyapılarda yaygın olarak konuşlandırıldığı belirtildi.
CERT-In, ilk girişten nihai zarara kadar günlerce süren saldırıların birkaç saate indirgendiğini ve sistemlerini tamamen temizleyemeyen kurbanların birkaç gün içinde daha büyük bir derinlikle yeniden saldırıya uğradığını kaydetti.