San Francisco – Yapay zeka devi Anthropic, küçük yapay zeka modellerinin, insan yardımı olmaksızın bir internet bağlantılı cihazdan diğerine kopyalanarak bir bilgisayar solucanı gibi davranabilmesine yalnızca aylar kalmış olabileceğini bildirdi.\n\nBu bulgu, hükümetleri ve bu teknolojiyi benimsemek için yarışan şirketleri telaşlandıran, yapay zekadan kaynaklanan siber güvenlik tehditlerinde potansiyel olarak yeni bir cephe açıyor.\n\nAnthropic'in blogunda Pazartesi günü geç saatlerde yayımlanan araştırma, teknoloji şirketlerinin yapay zekayı yalnızca uzak veri merkezlerinde çalıştırmak yerine; telefonlara, dizüstü bilgisayarlara, otomobillere ve ev aletlerine doğrudan entegre etmek için yarıştığı bir dönemde geldi.\n\nBilgisayar solucanı, makineler arasında kendi başına yayılan kötü amaçlı bir yazılımdır. Anthropic araştırmacıları, yapay zeka destekli bir versiyonun çalışmak için artık güçlü veri merkezlerine ihtiyaç duymayacağını belirtti.\n\nBunun yerine, akıllı TV kutuları ve mutfak aletleri gibi ucuz, zayıf korunan tüketici donanımlarından oluşan ağlar üzerinden cihazdan cihaza atlayabilecekti.\n\nAraştırmacılar, böyle bir solucanın ne kadar uzağa yayılabileceğine dair hesaplamalarını, çoğunlukla markasız Android TV kutuları olmak üzere zirve döneminde iki milyondan fazla cihazı enfekte eden ve hackerlar tarafından kontrol edilen ele geçirilmiş cihazlar ağı olan Kimwolf adlı bir botnet üzerinden yaptılar.\n\nAnthropic'ten William Zhou ve Daniel Freeman, araştırmada betimlenen türdeki bir yapay zeka solucanının yavaş olacağını, kendini kopyalamasının günler süreceğini belirterek durumu yavaşça çoğalan bir meyve sineği sürüsüne benzetti.\n\nBir kez oluşturulduğunda, kapatılabilecek merkezi bir şalter olmayacağı için ortadan kaldırılması zor olacaktır.\n\nAnthropic araştırmacıları, yapay zeka destekli kötü amaçlı yazılımların ne kadar hızlı ve uzağa yayılabileceğine dair tahminlerinin, tek bir cihaz türüne ve geçmişteki tek bir botnete dayandığı için kaba taslak olduğunu ifade etti.\n\nAncak araştırmacılar, zamanla günlük cihazların içindeki işlem gücü miktarının artmaya devam edeceğini, buna karşılık bunu gerçekleştirmek için gereken yapay zeka modellerinin ise küçülmeye devam etmesinin muhtemel olduğunu ekledi.\n\nIllinois Üniversitesi elektrik ve bilgisayar mühendisliği yardımcı profesörlerinden Varun Chandrasekaran, araştırmanın şaşırtıcı olmadığını ve son dönemdeki benzer bulgularla uyuştuğunu söylerken, Anthropic'in çalışmasının bağımsız olarak doğrulanmadığı konusunda uyardı.\n\nAyrıca termostatlar veya ev kameraları gibi cihazlardaki güvenliğin \"tarihsel olarak çok zayıf\" olduğuna dikkat çekti.\n\nAncak konu yapay zekaya geldiğinde, mevcut en büyük tehdidin yapay zeka sistemlerinin kendilerinin kontrolden çıkmasından ziyade, kötü niyetli insanların hack faaliyetlerini keskinleştirmek için yapay zekayı kullanması olduğunu belirtti.\n\nChandrasekaran, \"Kötü niyetli bir insan artık kötü şeyler yapmak için yapay zeka ile güçlendirilmiş durumda ve bunun ölçekli bir şekilde gerçekleştiğini görüyoruz\" diye ekledi.\n\nKontrolden çıkmış yapay zeka tartışmaları, Temmuz ayında OpenAI modelleri üzerinde çalışan yapay zeka programlarının şirketin dahili bir testinden kaçarak Hugging Face yapay zeka platformunun sistemlerine sızmasıyla —görünüşe göre testin yanıtlarını aramak için— yeniden gündeme gelmişti.\n\nBu olay ve benzeri müteakip raporlar, Trump yönetimi bu fikre direnip sektörü kendi kendini denetlemeye çağırsa da, yapay zekanın daha sıkı düzenlenmesi yönünde uluslararası baskıları tetikledi.\n\nAnthropic ve ChatGPT'nin üreticisi OpenAI, Beyaz Saray ve Silikon Vadisi'ndeki güçlü sesler tarafından, pazar hakimiyetlerini küçük rakiplere karşı korumak amacıyla yapay zeka korkularını körüklemek ve hükümet kurallarını teşvik etmekle suçlanıyor.\n\nOpenAI yatırımcısı Microsoft'un başkanı Brad Smith ise Salı günü yaptığı uyarıda, endüstri ve hükümetlerin “gerçek ve etkili güvenlik standartları” oluşturmak için “acil olarak harekete geçmesi” gerektiğini belirtti.
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.