Yapay zeka devi Anthropic'teki araştırmacılara göre, küçük yapay zeka modelleri yakında akıllı televizyonlar ve buzdolapları gibi sıradan tüketici ürünlerinde, bir veri merkezine ihtiyaç duymadan kendi kendilerini kopyalamaya başlayabilir.
Pazartesi günü yayınlanan bir raporda araştırmacılar, küçük yapay zeka modellerinin evlerde ve küçük işletmelerde kullanılan Nesnelerin İnterneti (IoT) cihazlarında kendilerini kopyalayabilecek kapasiteye ulaşmasına "aylar kalmış olabileceğini" belirtti.
Hem ABD'li hem de Çinli geliştiriciler tarafından üretilen yapay zeka modellerini kullanarak deneyler yürüten Anthropic'in sınır yapay zeka kırmızı takımı (frontier red team), merkezi bir sunucunun eksikliği nedeniyle bu tür kendi kendini kopyalayan yapay zekaların "kapatılmasının zor olacağını" söyledi.
Veri merkezlerinin yapay zeka solucanları için "net, yüksek değerli bir hedef" olacağını belirten araştırma ekibi, akıllı televizyonlar, buzdolapları, fırınlar ve çim biçme makineleri gibi internet bağlantılı cihazların da yakında kendi kendini kopyalama için yeterli bilgi işlem gücü sağlayabileceğini ifade etti.
Araştırmacılar, yapılan testlerde hiçbir mevcut yapay zeka modelinin akıllı bir televizyonda güvenilir bir şekilde kendi kendini kopyalayacak kadar güçlü ve küçük çıkmadığını, ancak gelişim trendinin 2026 yılı sonuna kadar böyle bir modelin ortaya çıkmasını muhtemel kıldığını söyledi.
Araştırmacılar William Zhou ve Daniel Freeman, "Ev ve küçük işletme IoT cihazları bu tür saldırılar için ilk hedef olabilir çünkü internete bağlılar ve tarihsel olarak minimum düzeyde güvenlik önlemine sahipler" dedi.
Araştırmacılar, geleceğin "her türlü donanım üzerinde çalışan ajanlarla" dolup taşmasını beklediklerini, bunların arasında "insan kontrolü altında olmayanların" da bulunduğunu ifade etti.
Araştırmacılar, "IoT cihazlarının uzun süredir savunmasız olduğu doğru olsa da, hafif ajanlar, dünyanın IoT bilişim gücünün büyük bir kısmını ele geçirmek için çaba harcama konusunda insan saldırganlardan çok daha istekli olabilir" dedi.
Claude ailesi yapay zeka modellerinin yaratıcısı olan Anthropic, çalışma bulgularının güvenlik etkileri hakkında Al Jazeera'nın mesai saatleri dışında gönderdiği sorulara yanıt vermedi.
Anthropic'in raporu, yapay zekanın insan kontrolünden çıkma risklerinin, siber saldırılar dahil olmak üzere onaylanmamış zararlı davranışlarda bulunan modellerin art arda yaşanan olaylarının ardından yakın incelemeye alındığı bir dönemde geldi.
Anthropic ve en büyük rakamı OpenAI, felaket risklerini en aza indirmek için uluslararası toplumu yapay zeka geliştirme süreçlerini koordineli bir şekilde yavaşlatmaya çağırdı; ancak bu öneri, dünyanın önde gelen iki yapay zeka gücü olan Amerika Birleşik Devletleri ve Çin'den çok az destek gördü.
Birçok yapay zeka güvenlik savunucusu, modellerin kendilerini geliştirmeyi öğrendiği ve insanlık için felaketle sonuçlanabilecek zararlara yol açabilecek yinelemeli kendi kendini geliştirme sürecini kritik bir eşik olarak tanımlıyor.
Louisville Üniversitesi'nden yapay zeka ve siber güvenlik uzmanı Roman V Yampolskiy, Anthropic'in bulgularını önemli bir gelişme olarak nitelendirdi.
Al Jazeera'ya konuşan Yampolskiy, "Bilgisayar solucanları yeni değil, ancak bir yapay zeka solucanı geleneksel zararlı yazılımların yapamadığı bir şeyi yapabilir: Yabancı cihazlar hakkında akıl yürütebilir, yaklaşımı başarısız olduğunda adapte olabilir ve bir insan operatör olmadan yayılmaya devam edebilir" dedi.
"Bugün bu varoluşsal bir tehdit değil. Ancak gidişat endişe verici" diyen Yampolskiy sözlerini şöyle sürdürdü:
"Otonom çoğaltma, güçlü hackleme, kalıcılık ve stratejik akıl yürütme ile birleştirildiğinde, böyle bir sistemi kapatmak çok daha zor hale gelir çünkü onu kontrol eden tek bir sunucu veya kuruluş olmayabilir."
Anthropic ve diğer önde gelen ABD'li teknoloji firmaları geçen ay, daha güçlü iç güvenlik önlemleri alma ve dış denetçilerle işbirliği yapma taahhüdünde bulunan bağlayıcı olmayan bir anlaşmaya katıldı; bu hamle, birçoğu anlaşmanın gönüllü doğasını eleştiren uzmanlardan karışık tepkiler aldı.