Yapay zeka finans sektörünü yeniden şekillendirirken, dünyanın varlık bakımından en büyük kredi kuruluşunun başkanı, ticari bankerlerin merkez bankasındaki mevkidaşlarına göre "daha sefil" bir geçiş süreciyle karşı karşıya olduğunu söyledi.
Çin Sanayi ve Ticaret Bankası (ICBC) Başkanı Liu Jun, Shanghai Bund Zirvesi'nde Pazartesi günü katıldığı bir panel oturumunda, merkez bankacıları gözetim ve politika üzerine odaklanırken, ticari kredi kuruluşlarının yapay zekayı ölçekli bir şekilde devreye soktuklarında doğrudan finansal ve yasal sorumluluk taşıdıklarını belirtti.
Liu, "Eğer [ICBC] yapay zeka araçlarını... farklı iş kollarına doğru konuşlandırırsa ve tüm faydalar BT bilançosuna ve gelir tablosuna katkıda bulunursa, bu benim yapay zeka konuşlandırmasının sorumluluğunu üstlendiğim anlamına gelir" dedi.
"Kötü bir şey olursa, kurbana ödeme yapmak ve piyasaya nihai cevabı vermek zorunda kalacağım."
Her gün halka ve endüstriye hizmet eden ticari bankaların yalnızca köklü teknolojilere güvenebileceğini söyleyen Liu, ancak henüz dijital dönüşüme yeni girdiklerini ve önlerindeki yolun "ne olacağını asla bilemedikleri" bir yolculuk olduğunu ifade etti.
Liu, yapay zeka ile geleneksel bankacılık arasında beyanname, veri depolama, egemenlik ve güvenilirlik olmak üzere dört uyumsuzluk olduğuna dikkat çekti. Geliştiricilerin, uygulayıcıların ve kullanıcıların şeffaf olmayan bir sistemin farklı kısımlarını ayrı ayrı yönettiği durumlarda sorumluluğun paylaştırılmasının büyük bir engel olduğunu söyledi.
Liu, ICBC'nin yüzlerce yapay zeka modeli konuşlandırdığını ve veri yoğun işlerde onlara daha fazla özerklik tanıdığını, aynı zamanda müşteriyle yüz yüze gelen pozisyonlarda insan ekiplerini tutmaya devam ettiğini belirtti.
Operasyonel riskleri azaltmak için ICBC'nin “fayda kanıtı” adı verilen bir çerçeve tanıttığını söyleyen Liu; bu yaklaşımın, finansal getirileri elde eden ve sistem içinde bağımsız kararlar alan kişileri doğrudan sorumlulukla bağlayan bir yöntem olduğunu ifade etti.
Aynı panelde konuşan Hong Kong Para Otoritesi (HKMA) Genel Müdür Yardımcısı Arthur Yuen Kwok-hang, bankaların çok adımlı görevleri planlayıp yürütebilen sistemler olan ajan tabanlı yapay zekayı (agentic AI) benimsemesiyle birlikte Liu’nun hesap verebilirlik endişesini paylaştı.
Yuen, kurumların tipik olarak tek bir uygulamayı altı ila sekiz ajana böldüğünü, ancak her bir ajanın ve insan denetçinin görevin yalnızca bir kısmından sorumlu olması durumunda "hiç kimsenin işin tamamından sorumlu olmadığını" söyledi.
Bu tür zorluklarla başa çıkmak için Hong Kong’un de facto merkez bankası, geçtiğimiz hafta hesap verebilirlik, dayanıklılık ve güven üzerine odaklanan güncellenmiş bir yapay zeka yönetişim çerçevesi duyurdu.
Yeni çerçeve kapsamında HKMA, böyle bir sistemi denetlemek üzere niyetle bağdaştırılmış hesap verebilirliği, materyal yapay zeka ajanlarının bir sicilini ve müdahale yollarını araştıran bir tartışma metni yayınlayacak.
Yuen, Hong Kong hükümetinin finansal kurumların güvenli bir şekilde "hızlıca başarısız olabileceği" (fail fast) bir ortam yaratmayı amaçladığını söyledi.
"Denetleyiciler olarak bizler, düzenleyiciden ziyade daha kolaylaştırıcı hale geliyoruz" dedi. "Bir fikriniz varsa, içeri girin, test edin."