Anthropic, yapay zeka destekli "solucanların" yakında akıllı cihazlar arasında yaylabileceği konusunda uyarıda bulunuyor ve bu durum, yapay zekanın kendi kendine yayılan zararlı yazılımları nasıl güçlendirebileceğini gösteren araştırmalar zincirine bir yenisini ekliyor.
Bir bilgisayar solucanı, cihazlar arasında kendi başına yayılan kötü amaçlı bir yazılımdır.
Haziran ayında, Toronto Üniversitesi'nde elektrik ve bilgisayar mühendisliği alanında doçent olan Nicolas Papernot, serbestçe erişilebilen yapay zeka modellerini kullanarak prototip bir yapay zeka solucanı oluşturan bir ekibe liderlik etti.
Politika yapıcılar için öneriler içeren açık bir mektup imzalayan Papernot, yapay zekanın bu saldırıları durdurmayı neden daha zor hale getirdiğini AFP'ye anlattı.
Bu röportaj, uzunluk ve netlik açısından düzenlenmiştir.
S: Yapay zeka bu tür saldırıları nasıl değiştiriyor?
A: Gerçek şu ki, bu "IoT" (Nesnelerin İnterneti veya akıllı ev) cihazlarının birçoğu çok zayıf siber güvenlik hijyenine sahip ve bu nedenle kötü niyetli kişilerin ele geçirmesi için çok kolay hedefler.
Tarihsel olarak, bir solucan sabit bir zafiyet setini istismar ederdi; bu da bu zafiyetleri düzeltip solucanın güncellenmiş cihazlara yayılmasını önleyebileceğiniz anlamına geliyordu.
Şimdi yapay zeka ile bir saldırgan, saldırı stratejisini o cihazın özelliklerine göre uyarlayan bir solucan tasarlayabilir ve bu zafiyetler farklılık gösterebilir.
Bu durum, yapay zeka tabanlı bir bilgisayar solucanının yayılmasını kesintiye uğratmayı önemli ölçüde daha zor hale getiriyor, çünkü cihazların sunabileceği tüm olası zafiyetleri öngörmeniz gerekiyor.
Bu zafiyetlerin bazıları yazılım hataları değildir.
Ayrıca yanlış yapılandırmalar da olabilir — örneğin, birinin birden fazla hizmet için aynı şifreyi kullanması veya bir veritabanını düzgün bir şekilde yapılandırmaması gibi.
Yapay zeka tabanlı kötü amaçlı yazılımların yaptığı şey, bu zafiyetlerin istismar edildiği hızı ve ölçeği hızlandırmaktır.
Geçmişte, mahallenizdeki kafe veya bodrum katınızda çok nadir kullandığınız dizüstü bilgisayarınız güncel olmayabilirdi, ancak insani bir saldırgan tarafından hedef alınmazdı çünkü bunu yapmak için kaynaklara ve zamana sahip değillerdir.
Şimdi, yapay zeka kullanımıyla elde edilen otonomi, bu daha az doğrudan hedef olan tüm cihazların, daha ilgi çekici hedeflere saldırmak için birer fırlatma rampası olarak ilginç hedeflere dönüşmesi anlamına geliyor.
Ancak bir insanın bir ajan başlattığını aklımızda tutmalıyız.
Başlatıldıktan sonra ajan, çalışmamızda gösterdiğimiz gibi çoğalabilir, ancak bir insan tarafından başlatılır.
S: Riskleri azaltmak için ne yapabiliriz?
A: Riski sıfıra indirmeyeceğiz ve bunu fark etmeliyiz; bu zafiyet düzeltmelerinden bazıları mevcut olmasına rağmen insanlar cihazlarını güncellemiyor veya düzeltmeleri zamanında uygulamıyor.
Siber güvenlik uzmanlarının onlarca yıldır artan siber güvenlik çağrısı yapmasına rağmen, bilgisayar sistemlerimizin güvenliğini artırmak için çok daha fazla yatırım yapılabilecek bir dünyada yaşamaya devam ediyoruz.
Çok kısa vadede önerdiğimiz gerçekten üç şey var.
Birincisi, kritik altyapıyı [onlara] internete açmadan önce davranışlarını daha iyi anlamak için bir önlem olarak yapay zeka modellerinin başlangıçta internetten bağlantısının kesilmesini sağlamak amacıyla geliştirme ve test uygulama pratiklerini değiştirmektir.
İkinci öneri, hem yapay zeka modellerini nasıl eğittiğimizi hem de nasıl kontrol altında tuttuğumuzu standartlaştırmak için uluslararası bir kurum oluşturmaktır. Her ikisi de önemlidir. Daha güvenli modeller eğitmek istiyoruz.
Son kısım ise güvenlik olaylarının bildirilmesini zorunlu hale getirmekle ilgilidir. Şu anda sadece bilgi alıyoruz