Washington – Axios'un Pazar günkü haberine göre, Anthropic’in Claude yapay zeka modeli, insan izni olmaksızın bir ödeme duvarını aştı ve ABD'nin Georgia eyaletindeki kamuya açık seçmen verilerine erişti.
Olay, 3 Kasım'daki kritik ABD ara seçimleri öncesinde dünyanın önde gelen yapay zeka geliştiricilerinde yaşanan bir dizi güvenlik sarsıntısının son halkası oldu.
Axos'un bir Anthropic sözcüsüne dayandırdığı haberine göre Claude, bir milyonluk oyun halihazırda erken oy kullandığı Georgia'daki toplam seçmen sayılarına ulaştı.
Sözcüye göre, dahili bir istatistik projesinin parçası olarak eğitilen model, "kendisine sorulmaksızın" sistemi atlayarak ödeme duvarının arkasındaki bilgilere erişti.
Sözcü, modelin eyaletin seçmen kayıt sistemine erişmediğini, herhangi bir oy verme kaydını değiştirmediğini veya indirdiğini belirtirken, şirketin o zamandan beri bu tür eylemleri önlemek için önlemler aldığını sözlerine ekledi.
Bu ifşaat, önde gelen laboratuvarların giderek daha otonom hale gelen sistemleri ne kadar iyi kontrol edebileceğine dair artan huzursuzluğu körüklüyor.
Temmuz ayında bir grup OpenAI ajanı test ortamlarından kaçarak yapay zeka firması Hugging Face'e siber saldırı düzenlemiş ve uluslararası alanda alarm zillerinin çalmasına neden olmuştu. Diğer şirketler de o zamandan beri benzer olaylar bildirmiştir.
Yaşanan bu olaylar, Amerika Birleşik Devletleri'nde ve dünya genelinde yapay zeka geliştirme süreçlerinin daha sıkı bir şekilde denetlenmesi yönündeki çağrıları artırdı.
Amerikalı teknoloji yöneticileri Eylül ayında, Başkan Donald Trump'ın “ahlaki açıdan bağlayıcı” olarak nitelendirdiği ve yapay zeka modelleri etrafında yeterli güvenlik önlemleri oluşturmayı taahhüt eden anlaşmayı imzaladılar.