中国信通院发布《人工智能风险治理报告（2024年）》

人工智能技术以其前所未有的发展态势引领新一轮科技革命和产业变革，深度驱动经济社会发展。技术释放价值红利的同时带来风险挑战。我国提出《全球人工智能治理倡议》着重指出，做好风险防范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。人工智能风险治理已经成为把握未来人工智能发展的核心要素，也是全人类需要共同应对的时代课题。

2024年12月24日，在2025中国信通院深度观察报告会人工智能安全治理分论坛上，中国信息通信研究院（简称“中国信通院”）发布《人工智能风险治理报告（2024年）——构建面向产业的人工智能安全治理实践方案》。中国信通院人工智能研究所安全治理部呼娜英从风险认知、全球实践、产业实践、展望建议等方面对报告进行了解读。

报告结合国际经验，立足我国产业实践，提出“系统治理-风险识别-风险评估-风险应对”的人工智能风险治理实践框架，实现穿透式风险管控与全链条流程管理的深度融合，为人工智能产业主体对于技术发展与安全保障提供解决方案。

报告核心观点

**1. 人工智能风险的认知向全球性融合、前瞻性考量、系统性分析、交叉性联动不断深化。**社会各界愈发关注人工智能风险全球性。全球人工智能治理方案愈发深刻认识到，人工智能技术的应用与影响并非局限于某一地区或国家，而是深刻影响全球社会、经济和政治秩序。国际密切关注人工智能发展带来的前瞻性风险。各国系统性分析人工智能带来技术、社会、伦理等多个层面带来的风险挑战。专家学者日益强调考量人工智能风险的交叉联动性。

**2. 全球人工智能风险治理举措不断走深向实。**国际社会加快推进人工智能治理领域的跨国协调行动，联合国发挥主渠道作用，人工智能安全峰会聚焦安全议题提供全球对话平台，多个国际决议、倡议和条约相继出台。主要经济体的治理体系渐趋明晰，多国成立人工智能安全研究所，开展风险管理体系研究和安全基准测试，推动面向风险的人工智能安全治理工作。产业界发挥技术研究和治理协同优势，协同推进治理框架互操作，提升人工智能风险应对能力，开发风险治理技术工具，推出安全技术测试平台，探索前瞻安全技术研究。

**3. 人工智能技术的迅猛发展使技术与应用风险复杂交织，对构建系统化、整体性、可落地的风险治理框架提出更高要求。**人工智能技术红利与应用风险相伴而生，全球领域人工智能治理进程持续加速。在技术快速演变、产品跨境应用、链条主体复杂的特征下，产业界能够在灵活有效应对现实问题、协调深化推动国际合作、协调多利益攸关方发挥更重要的作用，构建面向产业界的人工智能风险治理框架愈发重要。

**4. 面向产业界的人工智能风险治理实践框架需统筹考虑穿透式风险管控与全链条流程管理。**报告在延续中国信通院前期发布的可信人工智能相关报告的研究基础上，以可控可靠、透明可释、隐私保护、明确责任及多元包容等核心指导原则，提出人工智能风险治理实践框架。一是注重顶层设计，通过制度完善、文化建设和外部协作来提升系统治理能力。二是聚焦风险管理，覆盖风险识别、评估与应对的动态闭环管理体系。三是明确主体责任，构建贯穿研发、部署和应用等关键环节的全链条流程管理体系。

**5. 携手共建多元、协同、系统的安全治理体系，为人工智能可持续发展保驾护航。**国际层面，促进全球合作，共筑人工智能治理新格局。政府层面，优化治理体系，夯实人工智能安全发展基础。产业组织层面，发挥桥梁作用，推进行业治理标准化与动态化。企业层面，强化内外协同，助力技术创新与责任共担。

报告目录

一、概述

（一）人工智能风险挑战引发全球关注（二）人工智能风险治理模式亟需创新（三）推动面向产业界的人工智能风险治理落地框架迫在眉睫

二、人工智能风险认知渐进深化

（一）人工智能内生安全与衍生安全复杂交织（二）人工智能风险认知迈向多维度深化融合

三、人工智能风险治理全球实践

（一）国际层面：加速推进风险治理行动及合作（二）主要经济体：迭代完善风险划分与管控举措（三）产业组织：协同推进治理框架和安全工具（四）企业主体：深化技管融合的风险应对方案

四、面向产业的人工智能风险治理实践方案

（一）打造全链条人工智能风险治理框架（二）提升人工智能风险系统治理能力（三）设立人工智能风险精准识别机制（四）健全人工智能风险科学评估体系（五）完善人工智能风险敏捷应对方案

五、展望建议

（一）促进全球合作，共筑人工智能治理新格局（二）优化治理体系，夯实人工智能安全发展基础（三）发挥桥梁作用，推进行业治理标准化与动态化（四）强化内外协同，助力技术创新与责任共担