Oturma odasında hareket eden bir robot süpürge, sesli asistanlarla kısırlaştırılan ışıklar, akıllı telefonla kontrol edilen ısıtma sistemi ve favori bir yayın hizmetine bağlanmak için internete bağlanan bir televizyon. Tüm bunlar, bağlı elektronik cihazların veri alışverişinde bulunduğu ve birbiriyle iletişim kurduğu "Nesnelerin İnterneti" kavramının örnekleridir.
Endüstri derneği Bitkom'un son pazar araştırmasına göre, Almanya'daki tüm hanelerin yaklaşık yarısı bu veya benzeri "akıllı ev" uygulamalarını kullanıyor ve bu sayı giderek artıyor.
Şimdi ise yapay zeka şirketi Anthropic, yapay zeka destekli kötü amaçlı yazılımların yakında bağlı ev cihazlarına sızabileceği, kendini diğer cihazlara kopyalayabileceği ve buralarda aktif hale gelebileceği konusunda uyaran bir rapor yayınladı.
Bir makineden diğerine kendi kendine kopyalanan bilgisayar virüsleri onlarca yıldır varlığını sürdürüyor. Solucanlar olarak da bilinen bu yazılımlar, önceden tanımlanmış bir talimat dizisini takip eder. Bilinen güvenlik açıklarını veya zayıf korunan erişim noktalarını istismar ederler. Ancak bu açıklar kapatıldığında veya uygun saldırı vektörleri ortadan kalktığında, bir solucan artık o kadar kolay yayılamaz.
Bununla birlikte yapay zeka solucanları çok daha karmaşık ve potansiyel olarak çok daha zararlı olacaktır. Problemleri otonom bir şekilde çözebilir ve farklı cihazlara uyum sağlayabilirler; örneğin farklı bir işletim sisteminin veya sınırlı belleğin üstesinden gelebilirler. Ayrıca diğer cihazlarda nasıl çalışacaklarını kendileri çözebilir veya yeni güvenlik güncellemelerini tespit edip bunların etrafından dolaşabilirler.
Anthropic araştırmacıları, yapay zeka modellerinin nispeten ucuz donanımlar üzerinde çalışıp çalışamayacağını da inceledi. Yaptıkları bir deneyde, her biri hesaplamanın bir kısmını yürüten bir yapay zeka modelini ucuz maliyetli 15 adet Android TV kutusuna dağıttılar. Bu durum, belirli yapay zeka uygulamalarının büyük bir veri merkezine ihtiyaç duyulmadan çalışabileceğini kanıtladı.
Kontrollü bir test ortamında araştırmacılar, sekiz adet ek simüle edilmiş Android cihaz kurdu. Yapay zeka modeli bunlardan birine sızmayı, kendini kopyalamayı ve diğer cihazları enfekte etmeyi başardı. Beş denemenin dördünde sekiz hedef cihazın tümüne ulaştı. Kalan denemede ise sekiz cihazdan yedisine erişti.
Kötü amaçlı yazılımla donatılmış böyle bir yapay zeka modeli, daha önce bilinmeyen ortamlara nispeten hızlı bir şekilde uyum sağlayabilir ve süreçleri ve operasyonları aksatabilir. Tek bir zayıflığı istismar etmek yerine, çeşitli güvenlik önlemlerini atlatan yollar öğrenebilir. Anthropic'in geliştiricilerine göre, bu tür bir "yapay zeka solucanı"nın yeni ve daha önce bilinmeyen bir cihazda kendine yer edinmesi yaklaşık bir ila iki gün sürebilir.
Özellikle endişe verici olasılıklardan biri, yapay zekanın enfekte olmuş cihazları büyük bir botnete bağlayabilmesidir. Tek bir enfekte cihaz sınırlı işlem gücüne sahiptir, ancak ne kadar çok cihaz ele geçirilirse yapay zeka solucanı o kadar hızlı yayılabilir. Kötü amaçlı yazılım artık kolayca kapatılabilecek merkezi bir sunucuya bağımlı olmayacaktır.
Ayrıca yayılırken sürekli olarak öğrenmeye devam edebilir. Farklı yazılımlarla çalışan tamamen farklı elektronik cihaz türlerine sıçraması da mümkündür.
Enfekte olmuş cihazlar ağdan ayrılabilir ve güvenlik açıkları yine de kapatılabilir. Ancak kötü amaçlı yazılımın merkezi olmayan yapısı, kontrol altına alınmasını zorlaştıracaktır. Anthropic, bu potansiyel gelişimi yavaş yayan dijital bir sümüksü küfe benzetiyor.
Anthropic araştırmacıları, test cihazlarına erişimi bilinçli olarak çok kolay hale getirdi ve büyük dijital korumaları devre dışı bıraktı. Yine de şirket, daha küçük yapay zeka modellerinin...