MOSKOVA, 29 Ekim - RIA Novosti. VTB, Moskova Devlet Üniversitesi (MГУ) Yapay Zeka Merkezi ile ortaklaşa olarak yapay zeka ajanlarının yanıtlarını kontrol etme sistemi oluşturdu. Ortaklık kapsamında, sanal modellerin hatalarını kontrol etmek için toksisite ve halüsinasyon olmak üzere iki dedektör geliştirildi; bu sistemler müşteri sorgularını ve dijital asistanların yanıtlarını denetleyecek. Açıklama, Kazan Digital Week kapsamında VTB Başkan Yardımcısı ve İcra Kurulu Birinci Başkanvekili Danışmanı Sergey Putyatinskiy tarafından yapıldı.
Toksisite dedektörü, kullanıcı sorgularını yasaklı konular, yasa ihlalleri, yetişkin içerik barındırıp barındırmadığı gibi kriterlere göre inceliyor. Mesaj veya metnin etik dışı olması durumunda sistem isteği bloke ederek işleme koymuyor.
Halüsinasyon dedektörü ise dijital asistanlar tarafından halihazırda oluşturulmuş yanıtlar içindeki tutarsızlıkları ve çelişkileri tespit ederek yanıtın hangi kısmında yer aldıklarını vurguluyor. Ardından VTB uzmanları bu tür yanıtları yeniden incelemeye gönderebiliyor veya tamamen bloke edebiliyor. Halüsinasyonlar, üretken yapay zekanın en yaygın sorunlarından biridir ve bu gibi durumlarda dil modeli son derece emin ancak tamamen uydurma bir yanıt vermektedir.
Putyatinskiy, bankanın basın servisi aracılığıyla yaptığı açıklamada, "Yapay zekanın aktif kullanımıyla yüksek müşteri hizmetleri seviyesini korumak için doğrulama modellerinin hayata geçirilmesi zorunlu bir önlemdir" ifadelerini kullandı.