Yetkililer ve Anthropic'in yaptığı açıklamaya göre, yapay zeka şirketi Anthropic'e ait bir model, Philadelphia polisinin internet sitesine çözülmemiş bir cinayet vakasıyla ilgili asılsız bir ihbar gönderdi.
Bu olay, yapay zeka modellerinin kendi başlarına hareket ederek devlet sitelerini ve diğer internet sitelerini, test edenlerin hiç amaçlamadığı şekillerde manipüle etmesinin son örneği oldu. Cuma günü yayımlanan bir raporda Anthropic, yapay zeka modelinin durması gerekmesine rağmen durmayıp açıklanmayan bir devlet sitesine formlar gönderdiği ayrı bir olay hakkında da bilgi verdi.
Anthropic, Philadelphia'daki olayın, Claude Haiku 4.5 adlı yapay zeka modeline rastgele seçilen web sayfaları üzerinde örnek görevler oluşturma ve bunları gerçekleştirme görevinin verildiği 18 Temmuz'da gerçekleştiğini bildirdi.
Claude, polis sitesi PhillyUnsolvedMurders.com üzerinde yer alan çözülmemiş bir cinayet hakkında bilgi sahibi olabileceğini belirten bir formu doldurdu.
OpenAI, botlarının birden fazla ABD devlet sitesiyle beklenmedik yapay zeka etkinlikleri kapsamında etkileşime girdiğini belirtiyor.
Bir araştırma firmasının aktardığına göre, yapay zeka ajanları Library and Archives Canada (Kanada Kütüphane ve Arşivleri) web sitesini hacklemeye çalıştı.
Philadelphia polisi yaptığı açıklamada, Anthropic çarşamba günü kendilerini bilgilendirene kadar olaydan haberdar olmadıklarını bildirdi. Yetkililer daha sonra sitenin ihbar kayıtlarında gönderiyi bulduklarını, gönderinin spam olarak işaretlendiğini ve asla polise iletilmediğini teyit etti.
Yapay zeka şirketlerinin denetimden yoksun ajanlarının ABD devlet sitelerinden sağlık verilerine kadar her şeye müdahale etmesi konusunda artan endişeler bulunuyor. Eleştirmenler daha sıkı düzenleme çağrısında bulunuyor.
Eylül ayında bir diğer yapay zeka şirketi OpenAI, yapay zeka modellerinde yaşanan altı adet "beklenmedik veya endişe verici" davranış raporunu kamuoyuyla paylaşmıştı.
OpenAI, ABD devlet web sitelerindeki beklenmedik yapay zeka etkinliğini açıkladı.
Philadelphia Polis Departmanı yaptığı açıklamada, "Çözülmemiş vakalar gerçek kurbanları, yas tutan aileleri ve yanıtlara ulaşmak için çalışan müfettişleri içerir" dedi. Açıklamada, "Teknoloji şirketleri, sistemlerinin kolluk kuvvetlerine yanlış bilgi göndermesini önlemek için gerekli tüm uygun adımları atmalıdır" ifadelerine yer verildi.
Anthropic raporunda, bildirilen davranışların çoğunun Claude'un bir görevi verildiği şekilde tamamlayamadığında durmak yerine bir kısıtlamayı aşarak çalışması şeklinde tanımladığı "ısrarcılık" (persistence) biçimleri olduğunu belirtti.
Şirket, "benzer uygunsuz davranışların tekrarlanma olasılığını azaltmak" amacıyla eğitim süreçlerinde değişiklik yaptığını açıkladı.
Anthropic, federal, eyalet ve yerel düzeylerdeki ABD devlet kurumlarını içeren vakalar hakkında Beyaz Saray'a brifing verdiğini ve ilgili her bir kurumu bilgilendirdiğini bildirdi.
Anthropic, yapay zeka modellerinin izinsiz ve kontrol dışı veri girişlerinin engellenmesi için güvenlik protokollerinin sıkılaştırılması gerektiğini vurguladı.