人工智能（AI）正迅速改变军事领域并深刻影响国际和平与安全。"负责任军事域人工智能峰会"（REAIM）及《负责任军事应用人工智能与自主系统政治宣言》等倡议虽非普适性进程，但显著提升了国际社会对军事AI应用的关注度。这些倡议尤其推动讨论超越致命性自主武器系统（LAWS），成功凸显AI的多维影响，从而促成更广泛的国际政策参与。基于这些倡议激发的政治动能，联合国大会2024年12月通过的79/239号决议进一步拓展了围绕军事AI的国际对话，为成员国、国际和区域组织以及多利益攸关方社群提供了共商机遇与风险的平台。联合国裁军研究所（UNIDIR）长年致力于引导相关讨论：通过开展研究、推动多边对话、提供政策洞见，深刻阐释AI对国际和平安全的变革潜力。
国际社会当前可塑造AI在军事领域的应用方式，将负责任AI原则置于核心。核心挑战在于"军事域"定义的复杂性——国家与地区依其独特安全环境、现实条件及操作实践存在不同解读：部分国家将军事职能扩展至国内安全任务（如治安、边境管控、打击有组织犯罪、关键基础设施防护及灾害人道救援）；其他国家则采用严格定义，将军事功能限于战场交战。这些差异非但不应成为障碍，反而为多边讨论提供重要背景。国际治理框架须保持灵活包容，承认并适应多样化的国家与区域安全视角。
在军事域的多元操作场景中，AI作为力量倍增器赋能多项军事任务，涵盖指挥控制（C2）、情报信息、高级自主系统、后勤保障、训练模拟及组织支持功能。在C2领域，AI提升决策速度与质量，辅助指挥官快速分析战场态势；通过整合详细相称性原则等法律评估，增强国际人道法（IHL）遵循能力。AI驱动的情报工具高速分析海量数据，优化态势感知与威胁探测。在后勤领域，AI优化供应链与预测性维护，提升战备水平。AI还支持无人机、网络安全、认知战与信息行动中的高级自主性。训练模拟通过AI创建个性化高拟真合成环境而获益。简言之，若负责任地开发部署使用，AI可提升作战效能、降低风险与伤害。然而军事AI融合亦带来显著风险与挑战——涵盖技术、安全、法律、政策及伦理维度。
技术层面，军事AI系统面临数据质量、可用性及固有偏见问题，可能导致不可预测且具潜在危害的后果（包括违反国际法）。AI系统的"黑箱"特性，加之其自适应能力与高度环境依赖性，使可信度评估复杂化，有时甚至阻碍对涉嫌违反IHL行为的有效调查。网络安全漏洞也使AI系统易受对抗攻击，需采取严格防护措施。
安全挑战包括误判与意外升级风险，尤其通过AI赋能的快速决策流程及自主系统，可能导致升级式响应。AI军备竞赛的可能性加剧国际与区域紧张，或引发类似历史军备竞赛的破坏性后果。AI技术向非国家行为体扩散进一步复杂化威胁格局，亟需军事AI系统的强健全生命周期管理。此外，AI生成虚假信息通过削弱信息可信度威胁社会稳定性，并直接影响军事行动。
法律挑战聚焦确保遵守国际法（尤指IHL与国际人权法）。关键辩论涉及AI驱动行动的责任归属问题（包括国家与个人责任），特别是致命决策领域。各国对现有法律框架是否充分或需制定专门新规存在分歧。超越国际法范畴，伦理考量强调在关键决策中保留人类判断力，防止社会偏见渗入AI系统——后者要求增强AI开发的多元包容性。弥合政府、学界与私营部门间的鸿沟虽具挑战性，但对有效治理至关重要。
应对这些挑战需制定涵盖多边、区域及国家层级的综合路线图。多边层面，建立联合国主导的常设对话平台至关重要，该平台将系统探讨军事AI对国际和平安全的广泛影响。其可基于现有国际AI原则框架（如联合国教科文组织建议或《全球数字契约》中的安全可靠AI承诺），进一步细化军事领域适用方案。此外，应借助联合国平台制定务实"建立信任措施"（CBMs），引领包容性多利益攸关方参与，实施通过透明度、合作与可预测性增强全球安全的能力建设项目。
区域层面，现有组织框架可用于制定契合本地安全语境的CBMs与指南。跨区域对话促进经验互鉴，打破信息壁垒，纳入多元视角以推动全球协调响应。国家层面，各国应制定详述愿景、优先级与治理框架的综合AI战略，确保遵循国际规范与伦理标准。强健治理架构（如专属AI指导委员会与伦理委员会）配合迭代式法律审查，将增强问责制与安全性。透明化沟通与明确定责规程进一步支持负责任AI实施。高标准数据治理、全生命周期管理方法、严格培训计划及更新的军事操作指南共同构成国家层面措施，确保AI在军事领域的负责任融合。
综上所述，AI融入军事领域为国际和平安全带来重大机遇与复杂挑战。通过前瞻性治理、包容对话及情景适配框架，各国可驾驭AI战略优势并管控风险。承认定义与操作语境的多样性，协同多边、区域与国家行动，将为负责任军事AI治理奠定坚实基础。
原文
相关内容
微信扫码咨询专知VIP会员