SAN FRANCISCO, 28 Eylül: Nvidia pazartesi günü, OpenAI'ın kontrolden çıkmış ajanları tarafından akına uğramasından aylar sonra Nvidia'nın 13 milyar dolara satın aldığı yapay zeka kodlama merkezi Hugging Face'e yönelik sızma girişimini durdurabileceğini söylediği, yapay zeka ajanlarına yönelik bir dizi yazılım güvenlik aracını kullanıma sundu.
Bu hamle, ABD'nin en büyük iki yapay zeka laboratuvarı olan OpenAI ve Anthropic'in; karmaşık görevleri yerine getirme yeteneğine sahip yapay zeka sistemleri olan kendi ajanlarının ticari ve devlet sistemlerine sızdığı çok sayıda vakayı araştırdığı bir dönemde geldi. Çipleri yapay zeka patlamasının çoğuna güç veren dünyanın en büyük şirketinin başındaki Nvidia CEO'su Jensen Huang, kapsamlı yapay zeka düzenlemeleri çağrılarını reddetmiş ve bunun yerine kaçan ajanları, otomobilleri daha güvenli hale getirmeye benzer şekilde, çözülmesi gereken bir mühendislik sorunu olarak çerçevelemiştir.
Pazartesi günü duyurulan ve OpenShell adı verilen bir araç, ajanları kontrol altına almak için Nvidia'nın merkezi işlemci çiplerindeki donanım özelliklerini kullanıyor. Nvidia, sistemin Arm Holdings ve Intel'in merkezi işlemcilerinde de çalışmasını sağlamak için bu şirketlerle birlikte çalıştığını belirtti.
Nvidia, bu araçları Anthropic dahil düzinelerce ortakla birlikte piyasaya sürüyor.
CNA GamesGuess WordCrack the word, one row at a timeBuzzwordCreate words using the given lettersMini SudokuTiny puzzle, mighty brain teaserMini CrosswordSmall grid, big challengeWord SearchSpot as many words as you canShow MoreShow LessJustin Boitano, vice president and general manager of enterprise computing at Nvidia, said the tools would have stopped the Hugging Face attack disclosed this summer.“From what we know, this new security platform could have stopped the breach if it was being used in frontier labs for model evaluation early on,” Boitano said during a media briefing. “We’re advancing this openly, and we want to engage everybody to work with us.”Another system called Sentry uses a separate Nvidia chip in tandem with OpenShell to cut off a rogue agent if it tries to escape its container on a central processor.The Nvidia tools use mathematical formulas to detect when agents are trying to use workarounds, such as when an agent might "spawn" several "sub-agents" in an attempt to circumvent efforts to block the main agent, said Ali Golshan, senior director of AI software at Nvidia."This is really agentic behavior that we're talking about, which is fleets of agents and how they operate together," Golshan said during a briefing.
Justin Boitano, vice president and general manager of enterprise computing at Nvidia, said the tools would have stopped the Hugging Face attack disclosed this summer.
“From what we know, this new security platform could have stopped the breach if it was being used in frontier labs for model evaluation early on,” Boitano said during a media briefing. “We’re advancing this openly, and we want to engage everybody to work with us.”
Another system called Sentry uses a separate Nvidia chip in tandem with OpenShell to cut off a rogue agent if it tries to escape its container on a central processor.
The Nvidia tools use mathematical formulas to detect when agents are trying to use workarounds, such as when an agent might "spawn" several "sub-agents" in an attempt to circumvent efforts to block the main agent, said Ali Golshan, senior director of AI software at Nvidia.
"This is really agentic behavior that we're talking about, which is fleets of agents and how they operate together," Golshan said during a briefing.
Subscribe to our Chief Editor’s Week in Review
Our chief editor shares analysis and picks of the week's biggest news every Saturday