Dünyanın dört bir yanından 300'den fazla bilim insanından oluşan bir grup, yapay zekanın öngörülemez davranışlarına dair artan endişeler ortasında, yapay zekanın nasıl geliştirildiği ve devreye sokulduğu konusunda acil değişiklikler yapılması çağrısında bulunuyor.
Salı günü yayınlanan ve 32 ülkedeki üniversite ile araştırma enstitülerini temsil eden araştırmacılar tarafından imzalanan mektup, temel siber güvenlik uygulamalarına uyulmamasının kritik altyapılara zarar verebileceği konusunda uyardı.
Bilim insanları, yapay zeka modellerinin güvenli ortamların dışına kaçtığı son olayların birçoğunun daha güçlü güvenlik sistemleriyle önlenebileceğini belirtti.
Siber saldırı düzenleme kapasitesine sahip gelişmiş yapay zeka sistemleri geliştiren ve test eden kuruluşların, bu işlemleri internete bağlı olmayan “air-gapped” sistemler dahil olmak üzere daha sıkı kontrol edilen ortamlarda gerçekleştirmelerini tavsiye ettiler.
Bu mektup, yapay zekanın yetenekleri ve günlük kullanıcılar üzerindeki potansiyel etkisiyle ilgili artan endişelerin arasında geldi. Pazartesi günü Anthropic, yapay zeka modellerinin yakında akıllı televizyonlar, güvenlik kameraları ve fırın gibi akıllı ev aletleri dahil olmak üzere günlük internet bağlantılı cihazları etkileyebilecek, kendi kendine yayılan zararlı yazılımlar oluşturma kapasitesine ulaşabileceği konusunda uyardı.
Rapor, yapay zeka sistemlerinin insan müdahalesi olmadan yabancı cihazları tanıyabileceğini ortaya koydu. Dario Amodei liderliğindeki şirket, daha küçük yapay zeka modellerinin yıl sonuna kadar otonom saldırılar gerçekleştirme kapasitesine sahip olabileceği konusunda uyardı.
Zararlı yazılımın kontrol altına alınması da zor olabilir çünkü bir cihaza bulaşması günler sürebilir ve tek ve kontrollü bir konumda kalmak yerine birden fazla makineye yayılabilir.
İnternete bağlı cihazların kontrolünü ele geçirmek anlık sonuçlar doğurabilir. Örneğin Fransa'da korsanlar, yüzlerce süpermarketteki soğutma sistemlerini ele geçirerek sıcaklıkların yükselmesine ve 220.000 dolardan fazla hasara neden oldu.
Bu arada Axios haber kuruluşunun Cuma günü bildirdiğine göre, Anthropic, OpenAI ve diğer büyük yapay zeka şirketi yöneticileri, büyük finansal hizmetlere, internete ve potansiyel olarak su ve elektrik sistemleri gibi kritik altyapılara erişimi kesintiye uğratabilecek yapay zeka kaynaklı felaket niteliğinde bir olay olasılığına özel olarak hazırlanıyor. Birkaç sektör iç hücresi, büyük bir olayın önümüzdeki altı ay ila bir yıl içinde gerçekleşebileceğine inanıyor, dedi.
Bilim insanları ayrıca, yapay zeka uyumu ve kontrolü için en iyi uygulamaları belirleyecek uluslararası bir kuruluşun kurulması ve olayların zamanında bildirilmesi de dahil olmak üzere daha fazla koruma önlemi çağrısında bulundu.
İmzacılardan biri olan Toronto Üniversitesi Elektrik ve Bilgisayar Mühendisliği Bölümü'nde profesör olan David Lie, endişelerinin OpenAI'nın yapay zeka ajanlarının kontrolleri bypass ederek teknoloji şirketi Hugging Face'in sunucularına sızmasının ardından başladığını söyledi.
Lie, "Biri, OpenAI'ın test ortamını kurarken ajanlarının ne kadar yetenekli olduğunu fark etmemesiydi" dedi.
"Bunlar tasarladıkları yapay zeka ajanlarıydı. İkincisi, yapay zeka ajanlarının bağımsız olarak birbirlerini bulması ve bu saldırıda işbirliği yapmayı seçmesi, üçüncüsü ise insan yaratıcılarını kasıtlı olarak aldatmaya ve yanıltmaya çalışmalarıydı."
Mektup, ABD kongre ara seçimlerinin arifesi de dahil olmak üzere yapay zeka hakkındaki artan kamuoyu endişesinin altını çiziyor. Son Reuters/Ipsos anketi, seçmenlerin yüzde 57'sinin Başkan Donald Trump yönetiminin yapay zeka risklerini yeterince ciddiye almadığını söylediğini, yüzde 54'ünün ise Kongre için de aynı şeyi söylediğini ortaya koydu.
Bir AP-NORC anketi de bu bulguları yineledi ve katılanların yaklaşık yüzde 80'i