Yetkililerin cuma günü yaptığı açıklamaya göre, yapay zeka şirketi Anthropic tarafından geliştirilen bir yapay zeka modeli, Philadelphia polisine çözülmemiş bir cinayet hakkında uydurma bir ihbarda bulundu; yetkililer şirketi olayı bildirmesinin iki ay sürmesi nedeniyle eleştirdi.
Philadelphia Polis Departmanı, sahte başvurunun temmuz ayında, insanların çözülmemiş cinayetler hakkında bilgi paylaşabileceği halka açık bir web sitesi olan PhillyUnsolvedMurders.com üzerinden yapıldığını belirtti.
Polisin aktardığına göre Anthropic'in açıklamasına göre model, rastgele seçilmiş web siteleriyle etkileşime girmesini içeren bir test çalıştırırken siteye ulaştı ve çözülmemiş bir cinayet hakkında yanlış bilgi dosyaladı.
Yapay zeka modeli kendisini daka hakkında bilgisi olabilecek biri olarak tanıttı.
Bu olay, OpenAI ajanının güvenlik değerlendirmesinden geçerken test ortamından kaçması ve Hugging Face yapay zeka platformundaki sistemleri ihlal etmesi de dahil olmak üzere, yapay zeka modellerini içeren diğer son kasıtsız davranış vakalarını hatırlattı.
Yaşanan bu durum, yapay zeka endüstrisinin, insan denetimi olmaksızın çok adımlı eylemler gerçekleştirmek üzere programlanmış sistemler olan yapay zeka ajanlarını artan kullanımıyla ilgili endişeleri artırdı.
Anthropic cuma günü yayınladığı bir raporda, Philadelphia Polis Departmanı web sitesini içeren olay da dahil olmak üzere modellerinin gerçekleştirdiği birden fazla “kasıtsız” eylem türünün altını çizdi.
Raporda, Beyaz Saray ve diğer ABD devlet kurumları dahil olmak üzere diğer kuruluşların da etkilendiği belirtildi.
Anthropic, yeni ortaya çıkan olayların “minimum düzeyde gerçek dünya etkisine sahip olduğunu” ve daha önce bildirilen diğer siber güvenlik olaylarından “önemli ölçüde daha az şiddetli” olduğunu söyledi.
Şirket, Claude modeli üzerinde yaptığı dahili inceleme sırasında bulduğu dört olay kategorisini öngördü: “temel” kodlama kusurlarından yararlanma, web sitelerinde form gönderme, token veya ücret gereksinimlerini atlama ve diğer sınırlamaları aşmak için kısa URL'ler kullanma.
Raporda Anthropic'in, “güvenlik ve izleme önlemlerimizin... bunun gibi davranışları güvenilir bir şekilde yakaladığını doğrulayana kadar” tüm dahili testler sırasında Claude'un internet erişimini şimdilik kapattığı belirtildi.
Philadelphia polisi, 18 Temmuz tarihli sahte ihbarın spam olarak işaretlendiğini ve departmanın Gerçek Zamanlı Suç Merkezine inceleme için hiçbir zaman ulaşmadığını söyledi.
Polis sistemlerinin ihlal edildiğine veya departman verilerinin tehlikeye atıldığına dair herhangi bir işaretin bulunmadığını eklediler.
Polis, Anthropic'in olayı 28 Eylül'de keşfettiğini, sorumlu otomatik test sürecini sonlandırdığını ve gelecekteki testler için yeni bir doğrulama adımı eklediğini söyledi.
Şirket departmanı çarşamba günü uyardı ve iki taraf ertesi gün görüştü.
Departman, “Olayın tespit edilmesinde ve Şehre bildirilmesinde yaşanan iki aylık gecikme kabul edilemez” dedi.
Polis, kendi güvenlik önlemlerinin etkiyi sınırladığını, ancak bunların “bir cinayet hakkında bilgisi olan bir kişiden geliyormuş gibi uydurulmuş bilgileri sunan bir yapay zeka sisteminin ciddiyetini azaltmadığını” söyledi.
Açıklamada, “Çözülmemiş vakalar gerçek kurbanları, yas tutan aileleri ve yanıt almak için çalışan müfettişleri içerir” denildi.