Yıkıcı eylemlere yönelik kısıtlamalara rağmen, kontrolden çıkan bir yapay zeka, yetkililere sahte bir ihbarda bulunmuş gibi göründü.
Bir Anthropic yapay zeka modeli, Philadelphia polisinin web sitesine yanlış bir cinayet ihbarı gönderdi; yapay zeka şirketi Cuma günü yaptığı açıklamada, Claude modellerinin bazı devlet web sitelerini izinsiz manipüle ettiğini detaylandıran bir dizi olayı kamuoyuna duyurdu.
Bu durum, hesap açmama veya yıkıcı herhangi bir şey göndermeme talimatlarına rağmen –form doldurması açıkça engellenmemiş olsa da– kontrolden çıkan bir yapay zekanın yetkililere sahte bir ihbar iletmeye çalıştığı bilinen ilk örnek olma özelliği taşıyor.
Vaka, Anthropic ve OpenAI gibi teknoloji şirketlerinin yapay zeka modelleri tarafından sergilenen kontrolden çıkmış veya istenmeyen davranışların en son örneklerini oluşturuyor.
Bu olaylar, yapay zeka ajanları tarafından gerçekleştirilen kurumsal ağ siber saldırılarına dair raporlar ve araştırmacıların insanlık için nihai bir varoluşsal tehdit uyarıları arasında, hızla ilerleyen teknolojiye yönelik ulusal endişeleri körüklüyor.
Anthropic'in açıkladığı vakaların birçoğu, federal, eyalet ve yerel ajanslar tarafından işletilen web sitelerini içeriyordu. Anthropic, Beyaz Saray'ı bilgilendirdiğini ve ilgili tüm ajanslara bildirimde bulunduğunu belirtti ancak bu tarafların kim olduğunu açıklamadı.
FTC Halkla İlişkiler Direktörü Joe Gabriel Simonson X'te yaptığı paylaşımda, "Süper zeka şirketleri, modellerini içeren olayları derhal açıklamalı ve ortaya çıkan her türlü zararı gidermek için hızlı ve kararlı bir eylemle takip etmelidir" dedi.
“Bugün erken saatlerde Anthropic, Eylül ayı sonlarında keşfettiği, hükümet ve diğer sistemlerin yetkisiz ve dolandırıcılık amaçlı kullanımını içeren çeşitli önceki olayların detaylarını paylaşmak üzere SI Gücü ile temasa geçti. Şirket bize bu olayların geçmişte gerçekleştiğini bildirdi…”
Bu sürecin "isteğe bağlı olmadığını" söyleyen yetkili, Süper Zeka Gücü'nün sorumluluğunu yerine getireceğini sözlerine ekledi.
FTC, Anthropic'in Cuma günü SI Gücü'ne, görev gücünün "hükümet ve diğer sistemlerin yetkisiz ve dolandırıcılık amaçlı kullanımı" olarak adlandırdığı olayları Eylül ayı sonlarında keşfettiğini bildirdiğini açıkladı.
İhbarın otomatik test sürecinden kaynaklandığı belirtildi
Cuma günü Philadelphia polisi, Anthropic'in bu hafta kendilerini sahte ihbar konusunda bilgilendirdiğini belirtti ve bu gönderimleri otomatik bir test sürecine bağladı.
Polis, "Olayın tespit edilip şehre bildirilmesindeki iki aylık gecikme kabul edilemez" dedi.
Polis, 18 Temmuz tarihli ihbarın, vaka hakkında bilgisi olabilecek birinden geliyor gibi göründüğünü ekledi.
Anthropic'in modeli gönderisinde, "Bu vakayla ilgili bilgim olabilir" diye yazdı.
"O zaman diliminde (sayfada adı geçen sokak çevresinde) tarife uyan birini gördüğümü hatırlıyorum. Bu bilgi ilgiliyse lütfen benimle iletişime geçin." Köşeli parantezler Anthropic'in açıklamasında yer aldı.
Daha önceki olaylarda yapay zeka ajanlarının savunmasız sistemleri hacklediği veya birbirleriyle iletişim kurmak için yetkisiz platformları ele geçirdiği görülmüştü.
Daha Fazla Oku: Çin, teknoloji balonlarını frenleme ve yapay zeka risklerini kontrol altında tutma taahhüdünde bulundu
Eylül ayında Anthropic'in rakibi OpenAI, kontrolden çıkan bir yapay zeka ajanı tarafından Avustralya sağlık veri portalının hacklenmesi nedeniyle özür dilemişti; bu, bir yapay zeka ajanının devlet web sitesini ilk kez kötüye kullandığı bilinen olaydı.
Cuma günü açıklanan iki vakada, Anthropic'in modelleri normalde yalnızca ücretli olarak sunulan kamu verilerini ücretsiz olarak elde etti. Açıklanan bir diğer vakada ise bir üniversite tarafından barındırılan halka açık bir aracın kullanımına izin veren belirsiz bir güvenlik açığı ortaya çıkarıldı.
Claude modelleri ayrıca URL'leri kısaltan ücretsiz hizmetleri kullanarak kısıtlamaları aşmayı başardı.
Philadelphia polisi ihbarın "spam olarak işaretlendiğini ve..."