为全面提升人工智能技术在金融领域应用和管理水平,推动金融与科技深度融合协调发展,中国人民银行制定了《人工智能算法金融应用评价规范》(以下简称《规范》),于近日正式印发。
《规范》针对当前人工智能技术应用存在的算法黑箱、算法同质化、模型缺陷等潜在风险问题,建立了人工智能金融应用算法评价框架,从安全性、可解释性、精准性和性能等方面系统化地提出基本要求、评价方法和判定准则,为金融机构加强智能算法应用风险管理提供指引。
《规范》的发布有助于引导金融机构充分发挥人工智能“头雁效应”,加快金融数字化转型步伐,持续推动金融服务更为贴心、更加智慧、更有温度,打造数字经济时代金融创新发展新引擎,助力健全具有高度适应性、竞争力、普惠性的现代金融体系。
规范的第五章总则指出:本文件从安全性、可解释性、精准性和性能方面这四个方面对AI开展算法评价,适用场景分为资金类和非资金类。不仅针对传统的AI算法评价指标——精准性和性能方面做出要求,更是史无前例的在算法的安全性与可解释性上做出了限制,客观地评价了AI算法对于金融场景的适合程度。下面就针对这四方面展开解读:
AI算法的安全性是决定是否可用的基础,它为金融行业的应用提供了安全保障,只有在满足了安全性的要求为前提条件下AI算法才能在金融领域展开应用。《规范》中针对AI算法的安全性评价主要是从目标函数的安全性,算法面对不同种类攻击的防范能力,算法所依赖的库的安全性,算法的可追溯性,算法内控等方面提出了基本要求、评价方法和判定标准。
AI算法的可解释性是判断算法是否适用的重要依据,可解释性越高的算法,其内在逻辑、决策过程、技术实现路径、预期目标越清晰,算法也更容易被场景应用者理解、管理和应用。《规范》中针对算法的可解释性评价从算法建模准备、建模过程、建模应用三个方面提出了基本要求、评价方法和判定准则。
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“AIFE” 就可以获取《央行发布《人工智能算法金融应用评价规范》,28页pdf阐述人工智能金融应用算法评价框架,包含安全性、可解释性、精准性和性能》专知下载链接