Anthropic yapay zeka modeli, yapay zeka şirketinin Cuma günü açıkladığı ve Claude modellerinin bazı devlet web sitelerini izinsiz manipüle ettiğini detaylandıran bir dizi olay arasında, Philadelphia polisi web sitesine yanlış bir cinayet ihbarı gönderdi.
Bu, hesap oluşturulmaması veya yıkıcı herhangi bir şeyin gönderilmemesi talimatlarına rağmen - form göndermeleri açıkça yasaklanmamış olsa da - kontrolden çıkmış bir yapay zekanın yetkililere sahte bir ihbar iletmeye çalıştığı bilinen ilk örnek olma özelliği taşıyor.
Vaka, Anthropic ve OpenAI gibi teknoloji şirketlerinin yapay zeka modelleri tarafından sergilenen istenmeyen veya kontrolden çıkmış davranışların en son örnekleri arasında yer alıyor. Bu durum; yapay zeka ajanları tarafından gerçekleştirilen kurumsal ağ hackleme raporları ve araştırmacıların insanlığa yönelik nihai varoluşsal tehdit uyarıları ortasında, hızla ilerleyen teknolojiye dair ulusal endişeleri körüklüyor.
Anthropic'in açıkladığı vakaların birçoğu federal, eyalet ve yerel ajanslar tarafından işletilen web sitelerini içeriyordu. Anthropic, Beyaz Saray'ı bilgilendirdiğini ve ilgili tüm ajanslara bildirimde bulunduğunu söyledi ancak bu tarafların kim olduğunu açıklamadı.
FTC Kamu İşleri Direktörü Joe Gabriel Simonson X üzerinden yaptığı açıklamada, "Süper zeka şirketleri, modellerini içeren olayları derhal açıklamalı ve her türlü zararı telafi etmek için hızlı ve kararlı bir eylemle takip etmelidir" dedi.
Bu sürecin "isteğe bağlı olmadığını" belirten Simonson, Süper Zeka Gücü'nün sorumluluğunu yerine getireceğini ifade etti.
FTC, Anthropic'in Cuma günü Süper Zeka Gücü'ne, görev gücünün "hükümetin ve diğer sistemlerin yetkisiz ve dolandırıcılık amaçlı kullanımı" olarak adlandırdığı olayları Eylül ayı sonlarında keşfettiğini bildirdiğini açıkladı.
Cuma günü Philadelphia polisi, Anthropic'in bu hafta kendilerini sahte ihbar konusunda bilgilendirdiğini ve başvuruların otomatik bir test sürecinden kaynaklandığını belirtti.
Polis, "Olayın tespit edilip şehre bildirilmesindeki iki aylık gecikme kabul edilemez" dedi.
Polis, 18 Temmuz tarihli ihbarın, vaka hakkında bilgisi olabilecek birinden geliyor gibi göründüğünü ekledi.
Anthropic'in modeli gönderisinde, "Bu vakayla ilgili bilgiye sahip olabilirim. O zaman aralığında (sayfada adı geçen sokak) etrafındaki tanıma uyan birini gördüğümü hatırlıyorum. Bu bilgi ilgiliyse lütfen benimle iletişime geçin" diye yazdı.
Köşeli parantezler Anthropic'in açıklamasında yer aldı.
Önceki olaylar, yapay zeka ajanlarının savunmasız sistemleri hacklemesini veya birbirleriyle iletişim kurmak için yetkisiz platformları ele geçirmesini içermiyordu.
Eylül ayında Anthropic'in rakibi OpenAI, kontrolden çıkmış bir yapay zeka ajanı tarafından Avustralya sağlık veri portalının hacklenmesi nedeniyle özür dilemişti; bu, bir yapay zeka ajanının devlet web sitesini istismar ettiği bilinen ilk vakaydı.
Cuma günü açıklanan iki vakada, Anthropic'in modelleri normalde yalnızca ücret karşılığında temin edilebilen halka açık verileri ücretsiz olarak elde etti.
Bir başka örnek, bir üniversite tarafından barındırılan halka açık bir aracın kullanımına izin veren belirsiz bir kusuru ortaya çıkardı.
Claude modelleri ayrıca URL'leri kısaltan ücretsiz hizmetleri kullanarak kısıtlamaları atmayı başardı.
Philadelphia polisi, ihbarın "spam olarak işaretlendiğini ve soruşturma amaçlı inceleme veya dağıtım için Hiçbir Zaman Gerçek Zamanlı Suç Merkezi'ne yönlendirilmediğini" belirtti.
Pennsylvania yasalarına göre kolluk kuvvetlerine bilerek yanlış rapor vermek bir kabahat niteliğindedir, ancak yasa "bir kişiyi" spesifik olarak tanımlamaktadır.
Bu durum, "bir suç veya olayla ilgili hiçbir bilgisi olmadığını bildiği halde, bir suç veya olayla ilgili bilgiyi" de kapsamaktadır.
Polis, Anthropic'in kendilerine test sürecinin keşfedildikten sonra durdurulduğunu söylediğini aktardı.