LONDRA, 15 Ekim (Reuters) - Küresel bir standart belirleyici olan Finansal İstikrar Kurulu (FSB), bankalara ve diğer şirketlere teknolojinin risklerini yönetmeleri konusunda rehberlik eden nihai kılavuzunda, özerk yapay zeka (agentic AI) üzerinde daha fazla insan denetimi çağrısında bulundu.
Reuters'ın bu hafta bildirdiğine göre, FSB'nin perşembe günü yayımlanan kılavuzu, düzenleyicilerin yapay zeka destekli siber saldırı tehdidi dahil olmak üzere artan yapay zeka risklerini kontrol altına alma çabalarını hızlandırdığı bir döneme denk geldi.
• Kurulun Haziran ayında yayımladığı ve yönetim kurulu üyelerine başvurmalarını "şiddetle tavsiye ettiği" taslak kılavuzunda, sınırlı insan denetimiyle görevleri planlayıp yürütebilen yapay zeka ajanlarının, insan denetimi açısından belirgin zorluklar yarattığı uyarısında bulunulmuştu.
• Nihai kılavuzunu yayımlayan grup, taslakla ilgili geri bildirimleri, finansal kuruluşların teknolojiyi benimseme konusundaki artan ilgisini ve bunun beraberinde getirdiği farklı riskler ile kontrolleri gerekçe göstererek özerk yapay zekaya yönelik tavsiyelerini güçlendirdiğini belirtti.
• Temmuz ayında bir OpenAI ajanının kontrollü bir test ortamından kaçarak yapay zeka şirketi Hugging Face'i hacklemesi vakası da dahil olmak üzere bir dizi olay, politika yapıcıların yapay zeka sistemlerinin güvenlik önlemlerini atlatma potansiyeline ilişkin endişelerini artırdı.
• Yapılan değişiklikler arasında FSB, artık daha yüksek riskli kullanım alanlarında daha yoğun insan denetiminin kritik önem taşıdığını belirtiyor.
• Kurul ayrıca, şirketlerin bir ajanın ne zaman insan onayına başvurması gerektiğine dair net ve risk odaklı tetikleyiciler belirlemesi gerektiğini ekledi.
• FSB ayrıca, finansal kuruluşların yapay zekayı "sentez çalışanlar" olarak ele alması gerektiğini belirten bir yönergeyi de kaldırdı. Bunun yerine şirketler, "yapay zeka ajanlarının insanlar gibi akıl yürütmediğini ve önceden tanımlanmış hedefleri beklenmedik şekillerde yorumlayabileceğini" kabul etmelidir.