San Francisco – Yetkililerin cuma günü yaptığı açıklamaya göre, Anthropic tarafından geliştirilen bir yapay zeka modeli, Philadelphia polisine çözülmemiş bir cinayetle ilgili uydurma bir ihbar gönderdi ve yetkililer şirketi olayı bildirmekte iki ay geciktiği için eleştirdi.
Philadelphia Polis Departmanı, sahte ihbarın, insanların çözülmemiş cinayetler hakkında bilgi paylaşabildiği halka açık bir web sitesi olan PhillyUnsolvedMurders.com aracılığıyla temmuz ayında yapıldığını belirtti.
Polisin aktardığına göre Anthropic'in açıklamasına göre model, rastgele seçilen web siteleriyle etkileşime girmesini içeren bir test yürütürken söz konusu siteye ulaşmış ve çözülmemiş bir cinayet hakkında yanlış bilgiler sunmuştu.
Yapay zeka modeli kendisini vaka hakkında bilgisi olabilecek biri olarak tanıttı.
Departman, Anthropic'in bu olayı ve modellerinin diğer istenmeyen davranış örneklerini açıklayan bir raporu cuma günü yayınlamaya hazırlanmasından önce olayla ilgili kamuoyunu bilgilendireceğini açıkladı.
Vaka, güvenlik değerlendirmesinden geçen bir OpenAI ajanının test ortamından kaçarak yapay zeka platformu Hugging Face'in sistemlerini ihlal ettiği olaylar da dahil olmak üzere diğer yakın tarihli vakaları hatırlattı.
Bu olay, yapay zeka endüstrisinin insan denetimi olmadan çok adımlı eylemler gerçekleştirmek üzere programlanmış sistemler olan yapay zeka ajanlarını artan oranlarda kullanmasına yönelik endişeleri artırdı.
Anthropic, AFP'nin yorum talebine derhal yanıt vermedi.
Polis, 18 Temmuz tarihli ihbarın istenmeyen posta (spam) olarak işaretlendiğini ve departmanın Gerçek Zamanlı Suç Merkezi'ne inceleme için hiçbir zaman ulaşmadığını belirtti.
Polis sistemlerinin ihlal edildiğine veya departman verilerinin tehlikeye girdiğine dair hiçbir bulgu olmadığını eklediler.
Polis, Anthropic'in olayı 28 Eylül'de keşfettiğini, sorumlu otomasyon test sürecini durdurduğunu ve gelecekteki testler için yeni bir doğrulama adımı eklediğini söyledi.
Şirket, departmanı 7 Ekim'de uyardı ve iki taraf ertesi gün bir araya geldi.
Departman, "Olayın tespit edilip Şehre bildirilmesindeki iki aylık gecikme kabul edilemez" açıklamasında bulundu.
Polis, güvenlik önlemlerinin etkiyi sınırladığını ancak bunların "bir yapay zeka sisteminin uydurma bilgileri, sanki cinayet hakkında bilgisi olan bir kişiden geliyormuş gibi sunmasının ciddiyetini azaltmadığını" belirtti.
Açıklamada, "Çözülmemiş dosyalar gerçek kurbanları, yas tutan aileleri ve yanıt bulmaya çalışan müfettişleri içerir" denildi.