Anthropic şirketinin araştırmacıları, "yapay zeka solucanlarının" yakında birbirine bağlı ev aletleri üzerinden yayılabileceği konusunda uyarıyor. Bu tür sistemlerin ne kadar savunmasız olabileceği, Fransa'daki son siber saldırılarda da görüldü.
Oturma odasında bir robot süpürge işini yapıyor, sesli komutlarla ışıklar kısılıyor, ısıtma sistemi cep telefonu üzerinden ayarlanıyor ve televizyon internet akış servislerine bağlı.
Tüm bunlar, birbirine bağlı cihazların veri alışverişi yaptığı ve iletişim kurduğu "Nesnelerin İnterneti"nin (Internet of Things – IoT) birer örneği.
Alman dijital endüstri derneği Bitkom'un araştırmalarına göre, bu tür akıllı cihazlar bugün Almanya'daki hanelerin yaklaşık yarısı tarafından kullanılıyor ve sayıları artmaya devam ediyor.
Vapay zeka geliştirme şirketi Anthropic, şimdi yeni tür bir siber tehdit olasılığına karşı uyarıyor. Rapora göre, yapay zeka tabanlı kötü amaçlı yazılımlar yakında birbirine bağlı ev aletlerine yerleşebilir, kendilerini başka cihazlara kopyalayabilir ve buralarda faaliyetlerine devam edebilir, b92 bildiriyor.
Bunun için artık pahalı süper bilgisayarlara gerek kalmayabilir. İnternete bağlı zayıf korumalı çok sayıda akıllı televizyon veya diğer cihazlar bunun için yeterli olabilir.
Bilgisayar "solucanları", yani bir cihazdan diğerine kendi kendine yayılan virüsler (zararlı yazılımlar), onlarca yıldır varlığını sürdürüyor. Önceden programlanmış kurallara göre işlev görüyorlar ve bilinen güvenlik açıklarını kullanıyorlar. Bu açıklar kapatıldığında, daha fazla yayılmaları zorlaşıyor.
"Yapay zeka solucanları" ise çok daha karmaşık olurdu. Yapay zekayı kullanan bu kötü amaçlı yazılım, sorunları bağımsız olarak çözebilir ve farklı cihazlara, işletim sistemlerine ve teknik sınırlamalara uyum sağlayabilirdi. Ayrıca yeni güvenlik önarılarını baypas etmenin yollarını bulabilirlerdi.
Anthropic şirketinin araştırmacıları, yapay zeka modellerinin nispeten ucuz donanımlarda da çalıştırılıp çalıştırılamayacağını test etti. Bir deneyde, bir yapay zekâ modelini 15 ucuz Android TV cihazına dağıttılar. Her cihaz gerekli hesaplamaların bir kısmını gerçekleştirdi. Böylece bazı yapay zeka uygulamalarının büyük bir veri merkezine ihtiyaç duymadığını gösterdiler.
Kontrollü bir ortamda araştırmacılar daha sonra sekiz simüle edilmiş Android cihazı oluşturdu. Model, cihazlardan birine yerleşmeyi, kendini kopyalamayı ve diğerlerine bulaşmayı başardı. Beş denemenin dördünde sekiz cihazın tümünü başarıyla ele geçirdi, kalan denemede ise yedisini.
Böyle bir model kötü amaçlı yazılımla donatılmış olsaydı, yeni ortamlara nispeten hızlı bir şekilde uyum sağlayabilir ve farklı sistemlerin çalışmasını aksatabilirdi. Araştırmacıların tahminine göre, bir "yapay zeka solucanının" tamamen yeni bir cihaza uyum sağlaması bir ila iki gün sürerdi.
Özellikle endişe verici olan, enfekte olmuş cihazlardan oluşan büyük bir ağın, yani bir botnet'in oluşturulma olasılığıdır. Tek bir cihazın işlem gücü sınırlıdır, ancak birçoğu birbirine bağlandığında saldırı olasılıkları artar. Böyle bir ağ artık kolayca kapatılabilecek merkezi bir sunucuya bağımlı olmazlardı.
Ek bir sorun da sistemin çalışma sırasında öğrenme ve uyum sağlama potansiyelidir. Teorik olarak, farklı yazılımlara sahip tamamen farklı cihaz türlerine de geçebilirdi.
Enfekte olmuş cihazlar ağdan çıkarılabilse ve güvenlik açıkları sonradan giderilebilse de, bu sistemin merkezi olmayan doğası müdahaleyi zorlaştıracaktır. Anthropic, böyle bir senaryoyu yavaş büyüyen dijital bir küfe benzetiyor. Araştırmacılar deneyde bilerek geride bırakmış olsalar da...