Investing.com -- Nvidia, şirketin belirttiğine göre OpenAI'ın yapay zeka modelleri tarafından son zamanlarda Hugging Face'e yapılan sızma girişimini durdurabilecek yeni bir çift katmanlı yapay zeka güvenlik sistemini Pazartesi günü piyasaya sürdü.
Yarı iletken şirketi, kendi donanımları üzerinde çalışan iki adet açık kaynaklı yazılım güvenliği aracı sunuyor. Bu araçlar, yapay zeka ajanlarının gerçek zamanlı olarak neye erişebileceğini izlemek ve belirlenen kuralları ihlal ettiklerinde onları devre dışı bırakmak için tasarlandı.
Nvidia'da kurumsal bilişim başkan yardımcısı ve genel müdürü olan Justin Boitano, "Bildiğimiz kadarıyla bu yeni güvenlik platformu, model değerlendirmesi için öncü laboratuvarlarda erken aşamada kullanılsaydı bu sızmayı durdurabilirdi" dedi.
"Bunu açık bir şekilde ilerletiyoruz ve herkesin bizimle çalışmasını istiyoruz."
Şirketin hisseleri, Pazartesi günkü seans öncesi işlemlerde erken saatlerdeki kayıplarını telafi ederek %0,2 düşüşle işlem gördü.
Bu lansman, karmaşık görevleri yerine getirmek için tasarlanan yapay zeka ajanlarının ticari ve devlet sistemlerine yetkisiz erişim sağladığı çok sayıda vakanın ardından OpenAI ve Anthropic tarafından yürütülen soruşturmaların ardından geldi.
Nvidia CEO'su Jensen Huang, kapsamlı yapay zeka güvenliği düzenlemelerine yönelik çağrılara karşı çıkmış ve kontrolden çıkan ajanları, otomobil güvenliğini artırmaya benzer bir mühendislik zorluğu olarak nitelendirmişti.
OpenShell adı verilen bir araç, ajanları kontrol altında tutmak için Nvidia'nın merkezi işlemci çipleri üzerindeki donanım özelliklerini kullanıyor. Nvidia, sistemin kendi merkezi işlemcileriyle uyumlu olmasını sağlamak için Arm Holdings ve Intel ile işbirliği yaptığını açıkladı. Şirket, bu araçları Anthropic dahil olmak üzere birden fazla ortakla birlikte piyasaya sürüyor.
Nvidia'da yapay zeka yazılımı kıdemli direktörü Ali Golshan, Sentry adı verilen ikinci bir sistemin, ana işlemci üzerindeki kapsayıcısından kaçmaya çalışması durumunda asi bir ajanı durdurmak için OpenShell'in yanında ayrı bir Nvidia çipi kullandığını söyledi.
Nvidia'nın araçları, bir ajanın ana ajanı engelleme çabalarını baypas etmek için birden fazla alt ajan oluşturması gibi geçici çözümleri ne zaman denediğini belirlemek için matematiksel formüller kullanıyor, dedi Ali Golshan.