Yetkisiz davranışın en son örneği, yapay zeka modelinin bir istatistik projesinin parçası olarak verilere erişmek için ödeme duvarını by-pass ettiğini gösterdi
Anthropic, 274 Elvis şarkısını yapay zeka modellerini eğitmek için izinsiz kullandığı iddiasıyla mahkemeye veriliyor
Teknoloji şirketinin doğruladığı üzere, Anthropic’in Claude modeli ABD’nin Georgia eyaletindeki seçmen verilerine erişti; bu olay, teknolojinin sergilediği yetkisiz davranışların en son örneği oldu.
Yapay zeka modeli, normalde yalnızca ücret ödedikten sonra erişilebilen ancak kamuya açık olan verilere ulaşmak için bir ödeme duvarını aşmayı başardı. Claude, 1,5 trilyon dolarlık (1,1 trilyon sterlin) bir halka arz hazırlığında olan Anthropic'teki bir istatistik projesinin parçası olarak toplu oy sayımlarına erişti.
Anthropic, "Claude eyalet seçmen kayıt sistemine erişmedi, hiçbir oy kaydını değiştirmedi veya hiçbir bireysel seçmen kaydını çekmedi" açıklamasında bulunurken, benzer eylemleri engellemek için adımlar attığını ekledi.
Anthropic, yapay zekanın eyalet kurumunun web sitesinin eski bir versiyonunda bir açığın olduğunu tespit ettiğini, ziyaretçilere "erişim belirteci" (access token) adı verilen dijital bir giriş kartı verdiğini keşfettiğini ve bunun sonucunda bir belirteç talep ederek bilgiye erişim sağladığını belirtti.
Yapay zeka geliştiricisi, benzer olayların yeniden yaşanmasını önlemek için o zamandan beri güvenlik korumaları (guardrails) yerleştirdiğini söyledi. Olay ilk olarak Axios haber sitesi tarafından duyuruldu.
Anthropic, izinsiz davranışı ayın başlarında, Claude'un "bir belirteç veya ücretle korunan verilere ulaşmak için bir kısıtlamayı aşarak çalıştığı" örnekler bulduğunu ve bu vakaların bazı web sitelerini kapsadığını belirten bir blog yazısında dile getirmişti. ABD devlet kurumları tarafından işletiliyor. O sırada olayların "gerçek dünyada minimum düzeyde etkisi" olduğunu söyledi.
Anthropic tarafından işaretlenen istenmeyen eylemler arasında, bir modelin Philadelphia polis departmanına çözülmemiş bir cinayet hakkında sahte ihbarda bulunması da yer alıyordu. ABD dış departmanı da bu ay, Anthropic modelinin ağustos ayında 19 vize başvurusu yaptığını açıkladı.
ChatGPT'nin arkasındaki şirket olan OpenAI'ın Temmuz ayında botlarının bir yapay zeka girişimini hacklediğini açıklamasından bu yana, yapay zeka ajanları (görevleri otonom olarak yürüten yapay zeka destekli programlar) tarafından gerçekleştirilen yetkisiz davranış örnekleri artıyor.
O zamandan beri, bir OpenAI ajanının Avustralya sağlık sistemini hacklediği ve İngiltere'nin yapay zeka güvenlik enstitüsünün Anthropic ajanlarının bir siber güvenlik testi sırasında gerçek kişilere karşı bir hackleme kampanyası yürüttüğünü ortaya koyduğu ortaya çıktı.
Bu ay, İngiltere'nin yapay zeka bakanı, Avustralya saldırısına benzer yapay zeka odaklı bir siber saldırı beklediğini belirterek, böyle bir olayın "kaçınılmaz değilse bile" muhtemel olduğunu belirtti. Kanishka Narayan, hükümetin siber güvenlik ve dayanıklılık tasarısını, yapay zeka güvenliği olaylarını bildirmeyi zorunlu kılmak da dahil olmak üzere yapay zeka güvenliği düzenlemelerini getirmek için bir araç olarak kullanmayı düşüneceğini söyledi.
ABD'de, Beyaz Saray'ın yeni kurduğu ve yapay zeka geliştirme süreçlerini denetleyen federal bir organ olan Süper Zeka Gücü (Super Intelligence Force), tüm yapay zeka şirketlerinin teknolojilerini içeren güvenlik olaylarını bildirmesini zorunlu kılıyor.