军事行动中人工智能系统目标交战的附带损伤评估模型

在人工智能（AI）系统于战场上扮演日益重要角色的时代，确保负责任的瞄准决策需要对潜在的附带效应进行严格评估。在此背景下，本文引入一种用于军事行动中AI系统目标接战的新型附带损伤评估模型。该模型采用设计科学方法论，将时间、空间和力量维度整合到统一的知识表示与推理（KRR）架构中。其分层结构捕捉了待接战的AI系统的类别与架构组件，以及相应的接战向量和背景层面。同时，模型考虑了扩散性、严重性、可能性和评估指标，以便通过透明的推理机制提供清晰的表征。此外，通过对模型进行实例化来演示和评估，该实例化可作为进一步专项工作的基础，旨在构建负责任且可信赖的智能系统，用于评估军事行动中接战AI系统所产生的效果。

人工智能（AI）系统及基于AI的能力，如AI决策支持系统（AI-DSS）和AI赋能作战工具，正日益广泛应用于军事领域[1, 2]。这些系统被整合应用于从情报收集与监视到后勤、规划和目标获取的各个环节[3, 4]。预测性AI系统的开发与部署使得能够快速识别并应对诸如高超声速导弹和智能网络武器等威胁，而AI驱动的决策支持能力则在复杂且时间紧迫的条件下，在优化情报收集、目标优先排序和资源分配方面展现出进步[5, 6, 7, 8]。此类系统提升了精确性，加快了作战节奏，并为人类决策者提供支持，反映了AI对军事战略、决策周期和战场协同产生的变革性影响。

通过融入军事工作流程，AI系统自身也成为军事行动中的潜在目标。破坏或削弱对手的AI赋能基础设施——无论是数据驱动型、知识基础型还是神经符号型——都可能带来显著的作战优势[9, 10, 11, 12]。这一情况凸显了在以合法且负责任的方式规划和执行对此类目标的攻击时，严格评估框架的重要性。军事行动必须同时考量任务相关方面以及国际人道法所产生的法律义务，例如区分原则和比例原则[13, 14, 15]。在目标选择、接战和附带损伤评估中构建AI解决方案，增加了合规的复杂性和不确定性，这使得智能且自适应的评估模型变得至关重要。

附带损伤是指在攻击合法军事目标期间对平民和民用物体造成的偶然、非故意的伤害。这包括平民伤亡和财产损失，根据《第一附加议定书》第51条第5款第2项和第57条第2款第3项的规定，此类损害相对于预期的军事优势而言不得是过分的[16, 17]。平民伤害必须既是非故意的，也是合比例的；预期的过度伤害会使攻击行为非法[18]。指挥官在计划和执行攻击时必须采取所有可行的预防措施，包括在情况变化时中止攻击[19]。对于新兴技术而言，附带损伤的范围扩展到受偶然影响的民用基础设施和数据完整性[20]。

尽管在动能和网络环境中存在附带损伤评估方法[21, 22, 23, 24]，但仍需要针对AI系统接战的相应方法。本研究开发了一种用于军事行动中AI系统目标接战的附带损伤评估模型，该模型考虑了时间、空间和力量维度，以及对平民和民用物体造成非预期影响的严重性和可能性。该模型是遵循设计科学研究（DSR）方法论[25]并尊重知识表示与推理（KRR）原则[26]而开发的计算本体。这使得模型能够涵盖所有类型的AI系统——数据驱动型、知识驱动型和神经符号模型——及其关键系统组件、作战关系和平民关联。这种形式化体系支持对技术属性和以人为本的属性进行细粒度标注，从而能够对数据集、模型、推理引擎、民用基础设施、文化背景及其依赖关系进行编码。

本研究通过为AI驱动战争中的附带损伤评估提供一种自适应、透明的计算模型，推动了军事和AI领域的进步。它引入了一种结构化的方法，桥接动能和非动能要素，同时将法律、伦理和社会考量嵌入负责任的AI目标决策中。该模型对系统架构、可解释性、验证和风险缓释的整合，为负责任的AI解决方案（尤其是两用系统）奠定了基础，有助于在军事背景下将AI系统视为社会技术系统。

本文结构如下。第二部分讨论相关研究。第三部分概述研究方法。第四部分介绍模型设计与开发。第五部分通过一个用例对模型进行实例化。第六部分讨论结论性意见和未来研究展望。