央行发布《人工智能算法金融应用评价规范》，28页pdf

为全面提升人工智能技术在金融领域应用和管理水平，推动金融与科技深度融合协调发展，中国人民银行制定了《人工智能算法金融应用评价规范》（以下简称《规范》），于近日正式印发。

《规范》针对当前人工智能技术应用存在的算法黑箱、算法同质化、模型缺陷等潜在风险问题，建立了人工智能金融应用算法评价框架，从安全性、可解释性、精准性和性能等方面系统化地提出基本要求、评价方法和判定准则，为金融机构加强智能算法应用风险管理提供指引。

《规范》的发布有助于引导金融机构充分发挥人工智能“头雁效应”，加快金融数字化转型步伐，持续推动金融服务更为贴心、更加智慧、更有温度，打造数字经济时代金融创新发展新引擎，助力健全具有高度适应性、竞争力、普惠性的现代金融体系。

规范的第五章总则指出：本文件从安全性、可解释性、精准性和性能方面这四个方面对AI开展算法评价，适用场景分为资金类和非资金类。不仅针对传统的AI算法评价指标——精准性和性能方面做出要求，更是史无前例的在算法的安全性与可解释性上做出了限制，客观地评价了AI算法对于金融场景的适合程度。下面就针对这四方面展开解读：

AI算法的安全性是决定是否可用的基础，它为金融行业的应用提供了安全保障，只有在满足了安全性的要求为前提条件下AI算法才能在金融领域展开应用。《规范》中针对AI算法的安全性评价主要是从目标函数的安全性，算法面对不同种类攻击的防范能力，算法所依赖的库的安全性，算法的可追溯性，算法内控等方面提出了基本要求、评价方法和判定标准。

AI算法的可解释性是判断算法是否适用的重要依据，可解释性越高的算法，其内在逻辑、决策过程、技术实现路径、预期目标越清晰，算法也更容易被场景应用者理解、管理和应用。《规范》中针对算法的可解释性评价从算法建模准备、建模过程、建模应用三个方面提出了基本要求、评价方法和判定准则。