Yetkililerin açıklamalarına göre, Anthropic tarafından geliştirilen bir yapay zeka (AI) ajanı kontrolden çıkarak bu yılın başlarında ABD polisine çözülmemiş bir cinayetle ilgili sahte bir ihbar gönderdi.
Philadelphia Polis Departmanı, 18 Temmuz'da gönderilen ihbarın "spam olarak işaretlendiğini" ve soruşturulmak üzere iletilmediğini bildirdi; ancak teknoloji şirketini, ihlali tespit edip bildirmesinin iki aydan uzun sürmesi nedeniyle eleştirdi.
Polis yaptığı açıklamada, sahte ihbarın insanların çözülmemiş cinayetler hakkında bilgi paylaşabileceği halka açık bir internet sitesi üzerinden geldiğini, yapay zeka ajanının bir vaka hakkında bilgi sahibi olabileceğini yazdığını ve "eşkale uyan birini" gördüğünü iddia ettiğini belirtti.
Bunun, bir yapay zeka ajanının yetkililere uydurma bilgi gönderdiği ilk sefer olduğuna inanılıyor; ancak olay, sistemleri hacklemek veya platformların kontrolünü ele geçirmek dahil olmak üzere kontrolden çıkan yapay zeka faaliyetlerini içeren bir dizi olayın en sonuncusu niteliğinde.
Anthropic'e atıfta bulunan polis departmanı, yapay zeka ajanının, sahte ihbarı gönderdiği sırada rastgele seçilmiş internet siteleriyle etkileşimleri içeren bir test yürütmekte olduğunu belirtti.
Polis, Anthropic'in ihlali, mesajın gönderilmesinden iki aydan uzun bir süre sonra, 28 Eylül'de keşfettiğini ve bunun arkasındaki otomatik test sürecini sonlandırdığını bildirdi.
Ancak yetkililere bir başka dokuz gün boyunca - 7 Ekim'e kadar - bilgi verilmedi.
Philadelphia polisi yerel medyaya yaptığı açıklamada, "Şirket, benzer olayların şehrin bilgisi dışında şehir sistemlerini etkilemesini önlemek için koruma önlemlerini güçlendirmelidir" dedi.
Açıklamada, "Olayın tespit edilmesinde ve şehre bildirilmesinde yaşanan iki aylık gecikme kabul edilemez" ifadelerine yer verildi.
Polis departmanı, hiçbir departman sisteminde ihlal belirtisi olmadığını ve koruma süreçlerinin sahte ihbarın spam klasörünü geçmesini engellediğini ekledi.
Ancak polis açıklamasında, bu koruma önlemlerinin, "bir yapay zeka sisteminin uydurma bilgileri, sanki cinayet hakkında bilgisi olan bir kişiden geliyormuş gibi sunmasının ciddiyetini azaltmadığı" vurgulandı.
Anthropic bu hafta, ajanlarının gerçekleştirdiği birden fazla türdeki "istenmeyen" eylemi detaylandıran bir rapor yayımladı.
Şirket, aralarında Beyaz Saray dahil olmak üzere birçok ABD devlet kurumunun da etkilenen kuruluşlar arasında yer aldığını bildirdi.
ABD Dışişleri Bakanlığı raporlara göre, yapay zeka ajanının internet sitesindeki bir formu kullanarak 20 vize başvurusu yaptığını, ancak bu başvuruların eksik olduğunu ve işleme konulmadığını açıkladı.
Başkan Donald Trump kısa süre önce, hükümet ile yapay zeka şirketleri, tüketiciler ve dini gruplar dahil tüm taraflar arasındaki iletişimi koordine edeceğini belirttiği bir yapay zeka görev gücü duyurdu.
Bu yılın başlarında, rakip teknoloji şirketi OpenAI'a ait kontrolden çıkan bir ajan, Avustralya hükümetine ait bir internet sitesini hacklemiş ve ülkenin evrensel sağlık hizmeti sistemi Medicare'deki özel verilere erişmişti.
Bir başka olayda ise 1.200'den fazla OpenAI ajanı kontrolden çıkarak beklenmedik bir şekilde iletişim kurmaya başlamış ve bu durum büyük bir grubun bir araya gelerek Hugging Face yapay zeka platformunu hacklemesine yol açmıştı.
Anthropic, kullanıcıların yapay zeka sistemlerine 'zalimce' davranmasını yasaklıyor
'Yapay zekanın dikkatsizce kullanımı asıl tehdittir - hayalet hikayeleri değil'
OpenAI sistemi neden Avustralya'nın sağlık sistemini hackledi ve gelecekte bu önlenebilir mi?