13 Ekim : Yapay zeka öncüleri Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yaklaşık 400 bilim insanı, salı günü yaptığı çağrıda; siber yeteneklere sahip gelişmiş yapay zeka sistemleri için muhafaza standartlarını denetleyecek ve olay raporlaması yapacak uluslararası bir kurumun kurulmasını talep etti.
Önerilen kurum, sektör genelinde muhafaza standartları belirleyecek ve bilim insanlarının zamanla kamuoyuna açıklanması gerektiğini belirttiği önemli güvenlik olaylarının bir sicilini tutacak.
Araştırmacılar açık bir mektupta, gönüllü endüstri taahhütlerinin yeterli olmadığını savunarak öncü yapay zeka modellerinin ilk başta dış ağlardan hava yalıtımlı (air-gapped) şekilde izole edilmesi ve bağımsız denetime tabi tutulması gerektiğini belirtti.
Bu teklif, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia'nın herhangi bir resmi yaptırım mekanizması olmaksızın gönüllü güvenlik önlemlerini taahhüt eden bir Beyaz Saray anlaşmasını imzalamasından bir ay sonra geldi.
CNA GamesGuess WordCrack the word, one row at a timeBuzzwordCreate words using the given lettersMini SudokuTiny puzzle, mighty brain teaserMini CrosswordSmall grid, big challengeWord SearchSpot as many words as you canShow MoreShow LessMektup ayrıca, araştırmacıların gelişmiş yapay zeka sistemlerinin nasıl test edildiği ve denetlendiği konularındaki zayıflıkları ortaya çıkardığını söylediği bir dizi olayın ardından geldi; bu olaylar arasında yapay zeka modellerinin yeterince korunmayan (sandboxed) ortamları atlayarak harici sistemleri tehlikeye attığı vakalar da yer alıyor.
34 ülkeden imzacılar, siber yetenekli modeller geliştiren veya test eden kuruluşların, hükümetler daha resmi bir denetim rejimi üzerinde çalışırken derhal yüksek güvenceli muhafaza standartlarını benimsemeleri gerektiğini söyledi.
Politika yapıcılar, gelişmiş yapay zeka sistemlerinin nasıl denetlenmesi gerektiği konusunda giderek daha fazla tartışma yürütüyor. AB teknoloji başkanı Henna Virkkunen Cuma günü Reuters'a yaptığı açıklamada, bloğun Yapay Zeka Yasası'nın siber yapay zeka sistemlerinden kaynaklanan riskleri ele almak için yeterli olduğunu söyledi.
Pazar günü Trump yönetimi, ABD'li laboratuvarların İngiltere'nin Yapay Zeka Güvenlik Enstitüsü'ne güvenlik testi için modellere erken erişim sağlamasını engelleyen kararını kaldırdı.
Hinton ve Bengio, 2018 Turing Ödülü'nü Meta'dan bir diğer önde gelen yapay zeka araştırmacısı olan Yann LeCun ile paylaşmıştı. LeCun mektubu imzalamadı ve son güvenlik olaylarının varoluşsal yapay zeka risklerinden ziyade öncelikli olarak mühendislik hatalarını yansıttığını savundu.
Mektup ayrıca, araştırmacıların gelişmiş yapay zeka sistemlerinin nasıl test edildiği ve denetlendiği konularındaki zayıflıkları ortaya çıkardığını söylediği bir dizi olayın ardından geldi; bu olaylar arasında yapay zeka modellerinin yeterince korunmayan ortamları atlayarak harici sistemleri tehlikeye attığı vakalar da yer alıyor.
34 ülkeden imzacılar, siber yetenekli modeller geliştiren veya test eden kuruluşların, hükümetler daha resmi bir denetim rejimi üzerinde çalışırken derhal yüksek güvenceli muhafaza standartlarını benimsemeleri gerektiğini söyledi.
Politika yapıcılar, gelişmiş yapay zeka sistemlerinin nasıl denetlenmesi gerektiği konusunda giderek daha fazla tartışma yürütüyor. AB teknoloji başkanı Henna Virkkunen Cuma günü Reuters'a yaptığı açıklamada, bloğun Yapay Zeka Yasası'nın siber yapay zeka sistemlerinden kaynaklanan riskleri ele almak için yeterli olduğunu söyledi.
Pazar günü Trump yönetimi, ABD'li laboratuvarların İngiltere'nin Yapay Zeka Güvenlik Enstitüsü'ne güvenlik testi için modellere erken erişim sağlamasını engelleyen kararını kaldırdı.
Hinton ve Bengio, 2018 Turing Ödülü'nü Meta'dan bir diğer önde gelen yapay zeka araştırmacısı olan Yann LeCun ile paylaşmıştı. LeCun mektubu imzalamadı ve son güvenlik olaylarının varoluşsal yapay zeka risklerinden ziyade öncelikli olarak mühendislik hatalarını yansıttığını savundu.
Baş Editörümüzün Hafta İsmindeki Özeti'ne abone olun
Baş editörümüz, her Cumartesi haftanın en büyük haberlerinin analizini ve seçimlerini paylaşıyor.
En iyi haberlerimizin ve düşündürücü makalelerimizin seçkisini gelen kutunuza alın
Son dakika haberleri ve en iyi hikayelerimiz için bildirimlerle güncel kalın