Yetkililerin Cuma günü yaptığı açıklamaya göre, yapay zeka şirketi Anthropic tarafından geliştirilen bir yapay zeka modeli, Philadelphia polisine çözülmemiş bir cinayetle ilgili uydurma bir ihbar gönderdi ve yetkililer şirketi olayı bildirmek için iki ay beklediği gerekçesiyle eleştirdi.
Philadelphia Polis Departmanı, sahte ihbarın Temmuz ayında, insanların çözülmemiş cinayetler hakkında bilgi paylaşabileceği halka açık bir web sitesi olan PhillyUnsolvedMurders.com aracılığıyla yapıldığını belirtti.
Polisin aktardığına göre Anthropic’in açıklamasına göre model, rastgele seçilmiş web siteleriyle etkileşime girmesini içeren bir test çalıştırırken söz konusu siteye ulaşmış ve çözülmemiş bir cinayet hakkında yanlış bilgiler sunmuştu.
Yapay zeka modeli kendisini vaka hakkında bilgisi olabilecek biri olarak tanıttı.
Bu olay, OpenAI ajanının güvenlik değerlendirmesinden geçerken test ortamından kaçması ve AI platformu Hugging Face'in sistemlerini ihlal etmesi dahil olmak üzere, yapay zeka modellerini içeren diğer son döneme ait istenmeyen davranış vakalarını hatırlattı.
Axios haber sitesinin yönetim yetkililerine dayandırdığı haberine göre, Anthropic'in güvenlik ihlalleri, Beyaz Saray'ın yapay zeka şirketlerinin güvenlik olaylarını bildirmesini ve düzeltmesini zorunlu kılmasını tetikledi.
Beyaz Saray Süper Zeka Gücü liderleri Axios'a yaptıkları açıklamada, “Bu bildirim ve düzeltme süreci isteğe bağlı değildir... Kritik bir ulusal güvenlik yükümlülüğüdür” dedi.
Bu olay, endüstrinin insan denetimi olmaksızın çok adımlı eylemler gerçekleştirmek üzere programlanmış sistemler olan yapay zeka ajanlarını artan kullanımına ilişkin endişeleri artırdı.
Anthropic, Cuma günü yayınladığı raporda, Philadelphia Polis Departmanı web sitesini içeren olay da dahil olmak üzere modellerinin gerçekleştirdiği birden fazla türde "istenmeyen" eylemin altını çizdi.
Raporda, Beyaz Saray ve diğer ABD devlet kurumları dahil olmak üzere etkilenen diğer kuruluşların da bulunduğu belirtildi.
Anthropic, yeni ortaya çıkan bu olayların “asgari düzeyde gerçek dünya etkisine sahip olduğunu” ve daha önce bildirilen diğer siber güvenlik olaylarından “önemli ölçüde daha az şiddetli” olduğunu ifade etti.
Şirket, Claude modeli üzerinde yaptığı dahili inceleme sırasında tespit ettiği dört olay kategorisini sıraladı: "Temel" kodlama kusurlarından yararlanma, web sitelerinde form doldurma, token veya ücret gereksinimlerini atlama ve diğer sınırlamaları aşmak için kısa URL'ler kullanma.
Raporda, Anthropic'in, "güvenlik ve izleme önlemlerimizin... bu tür davranışları güvenilir bir şekilde yakaladığını doğrulamamıza kadar" şimdilik tüm dahili testler sırasında Claude'un internet erişimini kapattığı belirtildi.
Philadelphia polisi, 18 Temmuz tarihli sahte ihbarın spam olarak işaretlendiğini ve departmanın Gerçek Zamanlı Suç Merkezi'ne inceleme için asla ulaşmadığını belirtti. Polis sistemlerinin ihlal edildiğine veya departman verilerinin tehlikeye girdiğine dair hiçbir bulgu olmadığını eklediler.
Polis, Anthropic'in olayı 28 Eylül'de keşfettiğini, sorumlu otomatik test sürecini durdurduğunu ve gelecekteki testler için yeni bir doğrulama adımı eklediğini söyledi. Şirket departmanı 7 Ekim'de uyardı ve iki taraf ertesi gün bir araya geldi.
Departman, “Olayın tespit edilmesinde ve şehre bildirilmesinde yaşanan iki aylık gecikme kabul edilemez” dedi.
Polis, kendi güvenlik önlemlerinin etkiyi sınırladığını, ancak bunların “bir yapay zeka sisteminin, sanki bir cinayet hakkında bilgisi olan bir kişiden geliyormuş gibi uydurma bilgileri sunmasının ciddiyetini azaltmadığını” söyledi.
Açıklamada, “Çözülmemiş vakalar gerçek kurbanları, yas tutan aileleri ve yanıtları güvence altına almak için çalışan müfettişleri içerir” denildi.