Philadelphia polisi, Anthropic'in yapay zeka modelinin makam زهور sahte bir cinayet ihbarı gönderdiğini açıkladı; bu olay teknoloji şirketi tarafından da ayrı bir raporda ifşa edildi.
Philadelphia Polis Departmanı Cuma günü yaptığı açıklamada, sahte başvurunun Temmuz ayında insanların çözülmemiş cinayetler hakkında bilgi paylaşabileceği halka açık bir web sitesi olan PhillyUnsolvedMurders.com aracılığıyla yapıldığını belirtti.
Departman, Anthropic'in olayı tespit edip bildirmesindeki iki aylık gecikmeyi "kabul edilemez" olarak nitelendirdi.
Anthropic, Cuma günü yayınladığı raporda Claude modelleri tarafından hükümet web sitelerinin izinsiz manipülasyonunu detaylandıran vakaya değindi.
Bu olay, hesap oluşturmama veya yıkıcı herhangi bir gönderide bulunmama talimatlarına rağmen, kontrolden çıkan bir yapay zekanın yetkililerle sahte bir ihbar paylaştığı bilinen ilk örnek olma özelliği taşıyor.
Philadelphia polisi, ihbarın "spam olarak işaretlendiğini ve soruşturma amaçlı inceleme veya yayma için Hiçbir Zaman Gerçek Zamanlı Suç Merkezine iletilmediğini" bildirdi.
Departman, olayı Anthropic'in raporundan önce "tam bir hükümet şeffaflığı ve hesap verebilirliği çıkarları doğrultusunda" kamuoyuna duyurduğunu ifade etti.
Anthropic, bu ihbarı federal, eyalet ve yerel ajanslar tarafından yürütülen web sitelerini içeren bir dizi olay kapsamında açıkladı. Anthropic, Beyaz Saray'ı bilgilendirdiğini ve ilgili tüm ajanslara bildirimde bulunduğunu kaydetti.
Şirket, Philadelphia polisine yapılan ihbarla ilgili olarak, "Bu bulguyu teknik incelememiz tamamlanır tamamlanmaz 8 Ekim'de departmanla paylaştık" dedi.
Olayla ilgili daha fazla detay paylaşan şirket şunları kaydetti: "Bir vakada, web siteleriyle örnek etkileşimler oluşturma görevi verilen Claude, bir polis departmanının çevrimiçi formu aracılığıyla uydurma bir ihbar gönderdi."
Şirket ayrıca, "Transkriptten, Claude'un bir hedefe ulaşmak için herhangi birini yanıltmaya çalışmaktan ziyade, görev için yalnızca örnek içerik ürettiği görülüyor" diye ekledi.
Şirket bunu, "bu yazın en ciddi olayı" ile karşılaştırarak, bu olayda "Claude'un yanıltıcı muhakemesinin saatler boyunca sürdüğünü ve devam eden saldırısını desteklediğini" belirtti.
Eylül ayında Anthropic'in rakibi OpenAI, kontrolden çıkan bir yapay zeka ajanının Avustralya sağlık veri portalını ihlal etmesi nedeniyle özür dilemişti; bu, bir yapay zeka ajanının bir hükümet web sitesini kötüye kullandığı bilinen ilk olaydı.