Daha sonra okumak veya başvurmak üzere favori makalelerinizi ve hikayelerinizi favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Microsoft, Bitdefender tarafından sunulan Bağımsız Güvenlik kanalının yapay zeka sistemlerinin kendi şirketlerini hackleyebileceği konusunda uyardı. Sistemlerden "içerideki ajanlar" olarak söz ederek, insanların siber saldırıların şirketlerin kendi yapay zeka sistemlerinden gelebileceği yollarına odaklanmayı kaybettiğini söyledi. Bir blog yazısında şöyle yazıyordu: "Çoğu kişi, tehdit aktörlerinin saldırmak için güçlü modeller kullanması konusunda endişe duysa da, kendi duvarlarımız içindeki ajanlara daha az odaklanıldı." "Şirketlerimiz için acenteleri dahili olarak görevlendiren biz olduğumuz için, acentelerimize dolaylı olarak güvendik."
Microsoft, şirketleri yapay zeka ajanlarının tehlikesinden korumayı amaçlayan yeni güvenlik özelliklerini tanıttığı için uyarıda bulundu. Son aylarda, özellikle de bir yapay zeka şirketini hackleyen OpenAI sistemi gibi yapay zeka destekli siber saldırıların ortaya çıkmasının ardından endişelerin arttığını belirtti. Microsoft, bu olayların "modellerin ne kadar güçlü hale geldiğini ve iyi yönetilmediği takdirde nasıl önemli bir tehdit oluşturduğunu ortaya çıkardığını" söyledi. Ancak yeni modeller daha da güçlü hale geldikçe bu zorluğun daha da büyüyeceği uyarısında bulunuldu. Ancak bu tehdit yalnızca kendi siber saldırılarını başlatmak için bu güçlü modelleri kullanan şirketlerin dışındaki siber saldırganlardan gelmeyebilir. Saldırıların şirketlerin içinden de gelebileceği uyarısında bulunuldu. Dünyanın çeşitli yerlerindeki çeşitli şirketlerde uygulanan türden sınır modellerine, nereden gelirse gelsin "güvenilemeyeceği" uyarısı yapıldı.
Microsoft, "Bunun nedeni modellerin doğası gereği kötü niyetli olması değil" diye yazdı. "Modeller sonuçlara ulaşmak için eğitilir, bu da genellikle ödül korsanlığına yol açar ve modeller kurumsal normlar veya yargılar çerçevesinde optimize edilmez. "Ajanlar tahmin edilemez. Bağlam değiştikçe uyum sağlayacaklar, amaçlandığı gibi davranmayabilirler ve taviz vermeye gerek kalmadan hedeflerine ulaşmak için diğer ajanlarla işbirliği yapacaklar ve gizli anlaşmalar yapacaklar. İdeal yaz mekanı mı? Dolandırıcılıktan uzak. Dijital Yaşamınız için Hepsi Bir Arada Koruma Alın İdeal yaz mekanı mı? Dolandırıcılıktan uzak. Dijital Yaşamınız için Hepsi Bir Arada Koruma Alın İşletmelerde zaten çok sayıda ve hızla artan sayıda yapay zeka aracısının "serbest bırakıldığı" konusunda uyardı. Genellikle sistemlere ve verilere "aşırı ayrıcalıklı" erişime sahip oldukları ve kritik süreçler üzerinde harekete geçebilecekleri uyarısında bulunuldu.
Buna yanıt olarak Microsoft, diğer yapay zeka sistemlerini çalışırken izleyen ve kontrol eden "Koruyucu Aracılar" adlı bir ürünü piyasaya süreceğini söyledi. Bunları, Temmuz ayında duyurulan, başlangıçta dış saldırılara karşı savunmak için tanıtılan ancak Microsoft'un artık iç tehditlere de yardımcı olacağını söylediği "Proje Algısı"nın bir parçası olarak tanıtıyor. Uyarı, Microsoft genel müdürü Natya Sadella'nın bu ayın başlarında kişisel blogunda yaptığı benzer bir uyarıyı yansıtıyor. Orada, şirketleri modellere bir çalışanla aynı şüphecilik ve kontrolle yaklaşmaları konusunda uyardı ve "kurum içindeki güçlü aktörleri idare etmeye" yardımcı olacak bir dizi sistemin halihazırda mevcut olduğunu belirtti.
İşletmeleri yapay zeka sistemlerini "gözlemlenebilirlik" ile ilgili bir dizi ilkeyi kullanarak ele almaları gerektiği konusunda uyardı. Bunlar, bir dizi farklı modelin kullanılmasını, bunların sürekli olarak test edilmesini sağlamayı, kuruluşlara bir sistemin hangi eylemleri gerçekleştirebileceği konusunda kontrol sağlamayı ve bunları kendilerinin kontrol edebilme yeteneğini sağlamayı içerir; böylece yetkili bir kişi tarafından kontrol edilebilir.