重磅！国家标准《人工智能计算平台安全框架》征求意见稿发布，38页pdf详细规定AI计算安全框架

本文件规定了人工智能计算平台安全框架的安全功能、安全机制、安全模块以及服务接口。本文件适用于指导人工智能计算平台的设计与实现，也为平台使用方应用人工智能计算平台安全功能提供参考。

内容范围

在人工智能计算场景中，模型与数据是模型提供方、数据提供方及人工智能应用运行方等关注的核心资产。人工智能计算平台为模型训练、推理等任务运行提供基础的软硬件资源，对模型和数据等人工智能核心资产起到至关重要的保护作用。与传统的通用计算场景不同，人工智能计算场景引入了人工智能技术、人工智能加速处理器架构、模型资产等新的因素。在考虑人工智能计算平台的安全问题时，需要重点考虑这些新变化带来的影响。而现有的标准没有考虑这些变化因素，难以直接应用于人工智能计算场景。本文件将定义人工智能计算平台的安全框架，给出人工智能计算平台的安全功能、安全机制、安全模块及服务接口。该安全框架一方面能够消减平台成为网络攻击中薄弱环节的风险；另一方面，围绕上层应用在不同情景中面临的共性问题，能够基于人工智能计算平台的安全功能有效提升人工智能模型、数据等核心资产在传输、存储、训练、推理等环节中的安全，减少应用方在保护模型和数据安全方面的重复投入。

产业化情况、推广应用论证和预期达到的经济效果

本标准所定义的安全框架适用于各类人工智能应用系统的底层软硬件基础设施。现阶段，在人工智能领域及关乎国计民生的行业领域，均已部署人工智能应用系统，计划通过采纳人工智能技术促进本行业的数字化、智能化水平，提高相关业务的性能、效率及准确度。因此，本标准已具备足够的产业化基础。另一方面，在本标准编制过程中，金融/电信/能源等重点行业中的企业单位及人工智能产业中的软件开发商、安全服务商等专业公司均积极参与标准试点工作，组成标准推广应用工作组共同推动本标准在不同领域的应用验证，这也充分证明本标准具备足够的产业化基础，也是各领域亟需参考的关键标准。

通过本标准的制定，一方面可以帮助人工智能领域及使用人工智能技术的各行各业构筑安全的人工智能计算平台，夯实基础以提升人工智能应用系统的安全性；另一方面可以帮助各领域人工智能技术的相关参与方保障其模型、训练数据集等AI核心资产安全。总而言之，本标准的制定能够为人工智能技术的发展以及各行业领域加速应用人工智能技术保驾护航，具备显著的经济效益，意义重大。

AI计算平台概述

1.1　AI计算平台****组成架构

在AI计算场景中，一个典型的AI计算平台组成架构如图1所示，包括：

a)应用使能层：主要包括AI算法框架、开发套件（如SDK等）等软件资源，用于提升AI模型训练、推理及AI应用开发效率及易用性；

b)基础资源层：数据处理、AI模型训练、AI模型推理等AI计算任务执行所必须的计算、存储、网络等硬件资源或虚拟化资源，以及操作系统、计算加速库等基础的软件资源。

图1 AI计算平台典型组成架构

本文件所适用的AI计算平台为应用于数据中心及边缘场景的计算平台。根据不同场景应用需求，平台的部署方式、软件栈将有所不同。图1中实线框表示所有场景都需要的组成部分，虚线框表示部分场景需要的扩展组成部分。

1.2　AI计算平台参与方

AI计算平台涉及的参与方主要由AI计算平台提供方和AI计算平台使用方组成。其中AI计算平台使用方包括AI应用提供方、AI数据提供方、AI应用运行方、AI模型提供方等。参与方信息及其业务活动详见附录A，各参与方业务活动中面临的安全威胁及建议使用的安全功能见附录B。在本安全框架中，AI计算平台提供方基于AI计算平台使用方的业务活动及安全需求分析，通过缓解AI计算平台自身面临的安全风险并提供相应安全功能及服务接口，支撑相关参与方缓解其AI核心资产面临的安全风险。AI计算平台使用方通过调用AI计算平台提供的服务接口，保障AI核心资产传输、存储、训练、推理全流程安全。

1.3　AI计算平台安全风险

AI计算平台的安全风险主要包括以下两类，详细的安全风险描述见附录B： a) 平台自身面临的安全风险：组成AI计算平台的软硬件与其他场景中的软硬件面临相似的安全风险，如网络传输过程中面临的窃听、篡改等安全风险、数据存储时面临的破坏、窃取、勒索病毒等安全风险以及面向AI计算平台的非授权访问风险等。此外，AI计算平台由于引入人工智能技术带来了AI加速处理器、AI模型等新的变化，这些变化因素对软硬件架构、关键资产等产生了新的安全风险，如针对AI加速处理器的攻击风险、CPU与AI加速处理器间传输风险、训练框架后门风险等； b) 平台承载的AI核心资产面临的安全风险：AI核心资产部署或存储在AI计算平台中，面临着AI核心资产窃取及非法篡改、对抗样本攻击、模型萃取攻击等安全风险。

AI计算平台安全框架描述

1.1　安全框架结构

根据5.3所述安全风险，本文件描述的AI计算平台安全框架提供了两类安全功能，分别为平台自身安全类与AI核心资产保护类，每一类安全功能包含多个具体安全功能，如图2所示。