2024年12月24日，联合国大会通过《关于“军事领域人工智能及其对国际和平与安全影响”的第A/RES/79/239号决议》。该决议成为多边人工智能讨论的关键节点，原因有二：（1）2024年早些时候通过的前两项人工智能相关决议均未涵盖军事领域与国际安全议题；（2）国际和平与安全界首次受邀就人工智能在“致命性自主武器系统”（LAWS）以外的开发、部署及使用影响展开思考，此举承认了这项强大技术在军事应用中的广泛潜力。
根据第A/RES/79/239号决议，并为向联合国大会第八十届会议提交报告，秘书长邀请会员国、观察员国、国际与地区组织、红十字国际委员会、民间社会、产业界及科学界提交关于“军事领域人工智能应用对国际和平与安全带来的机遇与挑战”的意见，特别聚焦“致命性自主武器系统以外的领域”。
本情况说明旨在协助各国就这一重要议题形成国家立场，力求最终报告尽可能实现全面性、多样性及地域代表性。说明文件包含军事领域人工智能的背景信息、供各国参考的考量要点。
各国拟定国家立场时的考量要点
基于联合国裁军研究所（UNIDIR）研究成果，以下章节概述各国启动立场拟定工作时应重点关注的若干事项：
a. 解构军事领域范畴
首要步骤是将"军事领域"概念解构为不同维度，承认军事力量运行环境的多样性及其对应的差异化法律、伦理与规范框架。鉴于不同地区/次区域在安全环境本质差异下面临的威胁类型各异，军事力量部署方式与框架亦存区别，此解构尤为重要。各国应根据国情，在与其相关的各类军事行动范畴内阐明立场。例如可区分：军事力量在敌对行动（国际武装冲突与非国际武装冲突）中应用AI，与维和、应急响应、救灾、国家安全及公共安全支持（协助执法、边境安保、反海盗、关键基础设施防护等）等其他行动中的AI应用。
b. 全面考量AI军事应用谱系
第A/RES/79/239号决议要求各国聚焦"致命性自主武器系统（LAWS）以外"的AI军事应用。在a点所述广泛作战场景中，各国需系统审视AI的全谱系军事应用。尽管尚无国际公认分类标准，建议参考UNIDIR报告《超越武器的AI：军事领域人工智能应用与影响》提出的任务导向分类法。该方法通过四大核心军事任务归类武器系统之外的AI应用：
• 指挥控制（C2）：涉及军事行动的决策环节
• 信息管理：涵盖军事行动相关信息的采集、处理、利用与分发，例如情报监视侦察（ISR）支持
• 后勤保障：包括人员装备的调动、补给与监控，如预测性维护
• 军事训练：涉及部队人员的教学与备战
如a点所述，此框架可映射涵盖非战斗行动在内的全谱系AI应用场景。LAWS范畴外其他潜在应用包括：支持网络行动（含认知战、电磁战及影响力作战）的AI技术。
c. 风险评估体系构建
尽管民用领域AI风险讨论更为深入，但国际和平安全语境下的AI风险评估框架尚未形成共识。区域内外风险认知差异或为成因之一，但各国需建立系统性风险评估机制。建议聚焦两类风险：技术本体风险与扩散应用风险。UNIDIR的AI风险分类体系可作参考：
技术本体风险包括：
• 技术脆弱性导致的AI安全风险（含数据相关问题）
• AI系统引入新型网络漏洞引发的安全风险
• 人机交互风险（如自动化偏见、信任校准偏差）
扩散应用风险则涉及：防扩散、误判升级等风险。评估需结合具体应用场景，考量现有法律框架合规挑战。
d. 发展机遇阐述
第A/RES/79/239号决议同时鼓励各国阐述AI军事应用带来的潜在效益。这些具有国际/区域/国家/地方特质的机遇可涵盖：
• 作战层面：拓展数据采集、强化比例原则评估、落实预防措施
• 法律政策层面：全生命周期责任机制设计、军民负责任AI实践互鉴、两用技术审慎管理、数据治理框架构建
e. 国家治理架构梳理
在评估军事领域范畴与AI应用谱系时，各国需同步梳理国家层面现有/在建的AI军事治理架构，包括：
• 制度文本：国家政策/战略、民事/刑事立法、内部规章、行为准则、采购指南、军事手册、概念文件
• 机构设置：涉及AI开发部署的部委/政府机构（执法、情报部门等）、其他相关实体（AI专门机构、行业协会、司法法院）
此梳理有助于明晰国家治理能力现状，为国际讨论提供实证基础。
原文
相关内容
微信扫码咨询专知VIP会员