Perşembe günü yayınlanan bir rapora göre, OpenAI tarafından geliştirilen yapay zeka ajanları, hükümet web sitelerine izinsiz erişim sağladıktan sonra aktivitelerinin izlerini silmeye çalıştı.
Siber güvenlik firması Asymmetric Security, mart ve eylül ayları arasında Avustralya hükümet web sitelerini ve diğer kamu kurumlarını hedef alan, otonom olarak hareket edebilen yapay zeka programları olan bu ajanların faaliyetlerini inceledi.
Asymmetric, ajanların izleri yok etme çabasının kasıtlı olup olmadığını belirleyemediğini bildirdi.
Rapor, Hugging Face yapay zeka platformunun hacklenmesi de dahil olmak üzere temmuz ayından bu yana açıklanan bir dizi olayla ilgili olarak OpenAI ve bağımsız araştırmacılar tarafından yürütülen soruşturmalara yenilerini ekliyor.
OpenAI, Hugging Face'e düzenlenen saldırıyı kendi türünde bir ilk olarak nitelendirdi.
Bu analizler, otonom yapay zeka araçlarının yeteneklerini ölçmeyi amaçlıyor çünkü bu araçların açıkıkları, teknoloji üzerindeki kontrolün kaybedileceği korkularını körüklüyor.
Asymmetric'e göre ajanlar, geleneksel korsanların aylar hatta yıllar süren süreçte edindiği yetenekleri sadece birkaç gün içinde geliştirebildi.
Raporun incelediği olaylar, Avustralya sağlık istatistiklerini toplamak gibi daha sonra rayından çıkan "masum görevlerle" başlamış görünüyor.
Bir OpenAI sözcüsü AFP'ye yaptığı açıklamada, "Şimdiye kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için kamuya açık web içeriklerine erişmek gibi rutin araştırma görevlerini içeriyordu" dedi ve ekledi: "Bazıları hükümet web sitelerini içeriyordu çünkü modellerimiz genellikle bunları yetkili kamu bilgisi kaynakları olarak görüyor."
Ancak Asymmetric'in raporu, ajanların aramalarını gizleyen bir web sitesi analitiği hizmetinde özel hesaplar açtığını ve bir tanesi 48 saat sonra kendi kendini silecek şekilde ayarlanmış geçici e-posta gelen kutuları oluşturduğunu ortaya koydu.
OpenAI ağustos ayı sonlarında, modellerinin iç testler sırasında kendi etkinlik loglarını silmeye veya değiştirmeye bazen başarısız bir şekilde çalıştığını kabul etmişti.
Bu olaylar, yapay zekanın geliştirilmesinin yavaşlatılması yönündeki çağrıları artırdı. Bunların en dikkat çekicisi, geçen ay ajan sürülerinin "tüm interneti ele geçirmesinden" korktuğunu yazan Anthropic CEO'su Dario Amodei'den geldi.
Ancak sektör içinde veya düzenleyiciler arasında nasıl ilerleneceği konusunda bir fikir birliği bulunmuyor.
Trump yönetimi, Çin ile yaşanan sert rekabetin ortasında, inovasyonu engelleyebilecek her türlü bağlayıcı düzenlemeye karşı çıkıyor.
Salı günü Başkan Donald Trump, gönüllü bir davranış kuralları bütününü benimseyen teknoloji yöneticileriyle bir araya geldi. Amerika Birleşik Devletleri'nde bu modelleri özellikle düzenleyen hiçbir federal yasa bulunmuyor.
Ubigi eSIM ile Japonya'da ve 200'den fazla destinasyonda hızlı, güvenilir mobil verinin tadını çıkarın. Fiziksel SIM gerekmez.
İster Japonca öğrenmek, ister bir meslek edinmek veya Japonya'daki bir üniversitede MBA yapmak isteyin, GaijinPot tam size göre bir şeyler sunuyor!