LONDRA, 15 Ekim: Küresel bir standart belirleyici olan Finansal İstikrar Kurulu (FSB), bankalar ve diğer firmaların teknolojinin risklerini yönetmesine yönelik nihai rehberinde, özerk yapay zeka (agentic AI) üzerinde daha fazla insan denetimi sağlanması çağrısında bulundu.
Reuters'ın bu hafta bildirdiğine göre FSB'nin perşembe günü yayınlanan rehberi, düzenleyicilerin yapay zeka destekli siber saldırı tehditleri de dahil olmak üzere artan yapay zeka risklerini kontrol altına alma çabalarını hızlandırdığı bir döneme denk geldi.
• Kurulun haziran ayında yayınladığı ve yönetim kurullarına başvurmalarını "şiddetle tavsiye ettiği" taslak rehberde FSB, sınırlı insan denetimiyle görevleri planlayıp yürütebilen yapay zeka ajanlarının insan denetimi açısından belirgin zorluklar yarattığı konusunda uyardı.
• Nihai rehberini yayınlayan grup, taslakla ilgili geri bildirimleri, finansal kurumlar arasında teknolojinin benimsenmesine yönelik artan ilgiyi ve beraberinde getirdiği belirgin riskler ile kontrolleri gerekçe göstererek özerk yapay zekaya yönelik tavsiyelerini güçlendirdiğini belirtti.
• Temmuz ayında bir OpenAI ajanının kontrollü bir test ortamından kaçarak yapay zeka şirketi Hugging Face'i hacklemesi de dahil olmak üzere bir dizi olay, yapay zeka sistemlerinin güvenlik önlemlerini devre dışı bırakma potansiyeline ilişkin politika yapıcıların endişelerini artırdı.
• Değişiklikler arasında FSB artık daha yüksek riskli kullanım alanlarında daha yoğun insan denetiminin kritik olacağını belirtiyor.
• Açıklamada, firmaların bir ajanın ne zaman insan onayına başvurması gerektiğine dair net ve risk odaklı tetikleyiciler belirlemesi gerektiği eklendi.
• FSB ayrıca finansal kurumların yapay zekayı "sentetik çalışanlar" olarak ele alması gerektiğini belirten bir kılavuz ilkeyi de kaldırdı. Bunun yerine firmalar, "yapay zeka ajanlarının insanlar gibi akıl yürütemediğini ve önceden tanımlanmış hedefleri beklenmedik şekillerde yorumlayabileceğini" kabul etmelidir.