Nvidia, çip üreticisinin yapay zeka ajanlarının hile yapmasını engelleyebileceğini söylediği yeni bir güvenlik platformunu açıkladı. Şirket Pazartesi günü yaptığı açıklamada, Açık Temsilci Güvenlik Platformunun "temsilciler için sınırları belirleyen" açık kaynaklı bir yazılım içerdiğini ve önde gelen yapay zeka şirketlerinin modellerinin kaçıp diğer kuruluşlara sızmasıyla ilgili bir dizi açıklamayı takip ettiğini söyledi. Açıklamalar, bazı korkuların insan kontrolünden çıkabileceği, kendi kendini geliştiren modeller de dahil olmak üzere gelişmiş yapay zeka sistemlerinin güvenliği konusunda şiddetli tartışmalara yol açtı. Nvidia yöneticileri bir medya brifinginde, yeni sistemin, yapay zeka şirketi Hugging Face'i otonom olarak hackleyen bir dizi OpenAI ajanının dahil olduğu yakın zamanda meydana gelen bir olayı önleyebileceğini söyledi.
Şirketin kurumsal yapay zekadan sorumlu başkan yardımcısı Justin Boitano, yapay zekanın ön saflarında yer alan şirketlere atıfta bulunarak, "Bildiğimiz kadarıyla, bu yeni güvenlik platformu, sınır laboratuvarlarında model değerlendirmesi için erkenden kullanılmış olsaydı ihlali durdurabilirdi" dedi. Hugging Face olayı, AI ile ilgili güvenlik endişelerini alevlendiren yüksek profilli bir ihlaldi ve bunu, Avustralya'nın Medicare web sitesinin ihlali de dahil olmak üzere OpenAI modellerini içeren benzer hileli eylemler izledi. Anthropic ve Meta ayrıca, AI sistemlerinin kendi başlarına diğer kuruluşlara da hacklediğini açıkladı. Boitano, Nvidia'nın OpenShell adı verilen yazılımının, geliştiricilerin "bir aracının işini yapmak için yeterli yetkiye sahip olduğunu resmi olarak doğrulamasına izin verdiğini ve daha fazlasını yapmadığını" söyledi. Açık kaynak olduğundan Arm ve Intel dahil olmak üzere rakip bilgi işlem platformlarında çalışacak şekilde "genişletilebilir".
Şirket, platformun ayrıca, AI ajan etkinliğini sürekli olarak izlemek için bir çip üzerinde çalışan ve ajan hedefinin ötesine geçmeye çalıştığında "anında müdahale edebilen" Sentry adında ayrı bir güvenlik katmanı içerdiğini söyledi. Boitano, "Şüpheli bir ajanı milisaniyeler içinde karantinaya alabilir" dedi. Boitano, "OpenShell, aracının eylemlerini yönetiyor ve ardından Sentry, şüpheli davranışları bağımsız olarak izliyor ve kontrol altına alıyor" dedi. Nvidia, lansman sırasında Microsoft, Perplexity, Accenture ve JPMorgan Chase dahil 100'den fazla kuruluşun platformu kullandığını söyledi. Yapay zeka güvenliği tartışması, Anthropic ve OpenAI başkanlarının güvenlik çabalarının yetişmesini sağlamak için yapay zeka gelişiminin koordineli bir şekilde yavaşlatılmasını savunmasıyla sektörü böldü. Ancak Nvidia CEO'su Jensen Huang da dahil olmak üzere diğerleri, modellerinin piyasaya sürülmesinin güvenli olduğundan emin olmanın bireysel şirketlere bağlı olması gerektiğini söylüyor.
Huang, bu ayın başlarında düzenlenen yıllık Salesforce teknoloji konferansında, sahtekar ajanların tehlikesi de dahil olmak üzere yapay zeka güvenliğini, yazılım geliştiricilerin çözebileceği bir mühendislik sorunu olarak nitelendirdi. Yine gecede Nvdia, yonga üreticisi devinin üst düzey yapay zeka yongalarına olan talebin sağladığı parlak gelir artışından daha fazla yararlanmaya çalışması nedeniyle yönetim kurulunun hisse geri alım programını 150 milyar ABD doları kadar genişletmeyi onayladığını söyledi. Şirket Pazartesi günü yaptığı açıklamada, tarihin en büyük geri alımı olarak nitelendirdiği hisse geri alım artışının, hisse geri alım programını 235 milyar dolara çıkardığını söyledi. Hisseleri yüzde 1,6 arttı. Şirketler geri alımları kısmen yatırımcılara nakit iadesi yapmak ve hisse senedi fiyatını desteklemek için kullanıyor. Tedavüldeki hisse sayısı daha az olduğundan hisse başına kazanç artabilir. Geri alımlar ayrıca liderliğin bir şirketin finansal beklentilerine duyduğu güvenin sinyalini verir. “NVIDIA'nın büyümesi, platformda nesilde bir kez görülen yapay zekaya ve hızlandırılmış bilgisayarlara geçişle sağlanıyor