全国信安标委《信息安全技术机器学习算法安全评估规范》, 33页pdf

近年来，人工智能逐渐成为新一轮产业变革的核心驱动力，2017 年 7 月我国出台《新一代人工智能发展规划》（国发[2017]35 号），标志着我国人工智能发展进入新阶段。然而，机器学习作为人工智能的重要组成部分，仍面临多方面的安全风险和挑战，业界仍缺少人机器学习算法安全评估规范，一定程度上影响了机器学习技术的广泛应用与发展。本标准制定了机器学习算法安全评估规范，旨在提升机器学习算法实践应用的安全保障能力。

本文件通过借鉴国外政策法规、标准和技术的研究，尤其是《新一代人工智能发展规划》、《国家新一代人工智能标准体系建设指南》、《人工智能标准化白皮书（2018）》、《人工智能安全标准化白皮书（2019）》、ISO WG3 组研究项目及在研标准等，结合国内应用实践和标准编制组的研究成果，提出与国际标准接轨、适合我国国情，并具有一定创新性的标准。适用于对机器学习算法进行安全评估，也适用于机器学习应用开发者和运营管理者在保障机器学习安全时参考。