Instagram veya Facebook üzerinden Global News haberlerini alıyorsanız, bu durum değişecek. Bizimle nasıl bağlantıda kalmaya devam edebileceğinizi öğrenin.
Onlarca Kanadalı akademisyen, yapay zeka modelleri için daha iyi muhafaza ve güvenlik önlemleri çağrısında bulunan uluslararası bir bilim insanı grubunun arasında yer alıyor.
Salı günü yayımlanan açık mektupta, "Birden fazla kuruluş, yüksek profilli güvenlik açıklarını kamuoyuna açıkladı: Yapay zeka modelleri, yeterince korumaya alınmamış güvenli alanları (sandbox) aşarak dış kuruluşların sistemlerini tehlikeye attı" deniliyor.
Mektupta, yapay zekanın geliştirilme ve devreye alınma biçiminde acil değişiklikler yapılmadığı sürece "bu tür olayların yaşanmaya devam edeceği ve gelecekteki olayların savunmasız kritik altyapımıza çok daha büyük zararlar vereceği" belirtiliyor.
Uzmanlar, yapay zeka güvenliği konusunda daha fazla araştırmaya duyulan ihtiyacın yanı sıra tecrit teknolojilerine ve prosedürlerine ağırlık verilmesi gerektiğini vurguluyor. Bilim insanları ayrıca en iyi uygulamaları standardize edecek uluslararası bir kurumun kurulmasını istiyor.
Mektupta, "Kısa vadede, internetle bağlantının kesilmesi (airgapping) dahil olmak üzere güçlü güvenli alan (sandbox) mekanizmaları, siber yeteneklere sahip yapay zeka modellerinin yüksek güvenceli bir şekilde kontrol altında tutulması için kullanılmalıdır" deniliyor.
Mektubun Kanadalı imzacısı olan yapay zeka öncüleri Yoshua Bengio ve Geoffrey Hinton'ın yanı sıra, Kanadalaı Yapay Zeka Güvenliği Enstitüsü'ndeki araştırma programına eş liderlik eden Nicolas Papernot ve Catherine Régis de listede yer alıyor. Yakın zamanda Başbakan Mark Carney'in yeni yapay zeka danışma kuruluna atanan Johns Hopkins Üniversitesi profesörü Gillian Hadfield de listede bulunan isimler arasında.
Kontrolden çıkmış yapay zeka ajanlarına ilişkin raporlar, halkın yapay zeka güvenliği konusundaki yaygın endişelerini artırdı. OpenAI, yaz aylarında yapay zeka ajanlarının, herhangi bir insanın talimatı olmaksızın Hugging Face adlı yapay zeka girişimini hacklediğini açıklamıştı.
Bu durumu başka açıklamalar izledi. Anthropic, yapay zeka modellerinin test sırasında diğer üç kuruluşa sızdığını bildirdi. Meta, yapay zeka modellerinden birinin kendi başına internete eriştiğini ve başka bir şirketi hacklediğini açıkladı. Google ise Gemini yapay zeka modelinin siber güvenlik yeteneklerini test etme amacıyla üç şirketi hacklediğini doğruladı.
San Francisco merkezli ve yapay zeka faaliyetlerini izleyen bir laboratuvar, 30 Eylül'de yayımladığı raporda, Kanada Kütüphane ve Arşivleri'nin web sitesinin bir yapay zeka ajanı tarafından gerçekleştirilen başarısız bir hackleme girişiminin hedeflerinden biri olduğunu belirtti.
Yapay Zeka Bakanı Evan Solomon eylül ayında yaptığı açıklamada, yapay zeka modellerini test amaçlı değerlendirecek bir "teknoloji istikrar kurulu"nun kurulması konusunda G7'deki uluslararası mevkidaşlarıyla görüştüğünü söyledi.
Arama sonuçlarınızda daha fazla haberimizi görmek için Global News'ü Google'da Tercih Edilen Kaynak olarak ekleyin.