生成式人工智能数据标注安全规范

生成式人工智能已经成为人工智能领域的一个重要分支，具有广阔的应用前景和发展空间，生成式人工智能人工标注的准确性、安全性对于生成式人工智能的性能和安全应用具有重要的影响。近年来随着生成式人工智能的爆发式发展，人工标注的产业规模迅速增长，越来越多的专业标注公司和众包标注平台涌现，生成式人工智能模型的对于数据标注的需求不断增长。 2023年7月，中央网信办联合多部门发布《生成式人工智能服务管理暂行办法》，其中数据标注是其中重要内容，相关内容实施落地亟需配套标准支撑相关工作开展。目前国内外尚无针对数据标注活动的相关标准进行安全指导和规范。为落实《生成式人工智能服务管理暂行办法》的相关要求，有必要针对生成式人工智能产品研制中的数据标注环节，对数据标注规则制定、标注实施安全、标注质量及安全性核验要求、标注人员安全管理要求、过程安全控制要求、安全证实方法等方面提出规范指引。 本标准针对生成式人工智能产品研制中的人工标注环节，对人工标注规则制定、标注实施安全、标注质量及安全性核验要求、标注人员安全管理要求、过程安全控制要求、安全证实方法等方面提出规范指引。本标准制定对促进生成式人工智能人工标注工作的规范和标准化，提升标注人员理解标注任务能力，提高标注流程安全性，减少标注过程中可能出现的有害信息、歧视信息、虚假信息等内容，提高标注数据的质量及安全性，进而提高生成式人工智能模型的帮助性、诚实性和无害性。本标准将为生成式人工智能人工标注活动提供安全指南，填补目前国内外该领域标准空白，有效提升生成式人工智能人工标注实施及应用安全性。 主要内容包括： （1）生成式人工智能数据标注基本概念； （2）标注任务前期准备安全要求； （3）标注任务执行安全要求; （4）标注结果输出安全要求; （5）标注过程活动控制安全要求； （6）标注安全测试方法。