《武装冲突法中人工智能武器系统的指挥责任问题》42页报告

压缩的战术决策周期将是未来快节奏的超级战争的支点。人工智能武器系统有望扩展和最大化人类的能力，成为武装部队在这种致命作战环境中的生存能力和杀伤力的关键。人工智能不是武器；它是武器系统的组成部分或元素--最可能是一个军事网络或 "军事物联网"，它将加速火力或效果应用的速度和决策。网络化部队将为整个企业的态势感知和战斗管理提供信息。部队不太可能出动 "杀手机器人"--携带武器、不受人类指挥做出生死决定的单独实体。相反，创建和使用自主武器系统（AWS）将需要一个定义明确的作战环境，并获得丰富、准确、超大的数据集，如GPS，由分布式传感器提供，加上改进的机器学习算法和高性能处理器，将人工智能融合到杀伤链中。杀伤链过程结合了多光谱传感器，以了解作战环境，积极地识别、跟踪和选择目标，并以最适当的效果与他们交战。(苏联将这一过程称为 "侦察打击综合体"，而在20世纪90年代，美国的约翰-博伊德推广了 "OODA循环 "一词，即武装部队在对手面前竞相观察、定位、决定和行动）。人工智能旨在促进这种适应性的、多领域的、高速的决策模式，在此过程中，它有望提供决定性的军事优势。本研究的第二部分叙述了美国武装部队在武装冲突期间对人工智能的当前和潜在使用。

在第三部分，研究转向适用于战争中使用人工智能的规则。所有的战争方法和手段，包括人工智能，都必须符合战争法，也称为武装冲突法（LOAC）或国际人道主义法律（IHL）。指挥官有责任确保他们所掌握和指挥的方法和手段，包括人工智能，符合武装冲突法的原则，如区分、相称性和攻击中需要预防的规则。

第四部分探讨了《特定常规武器公约》（CCW）成员国为制定有助于确保AWS遵守武装冲突法的标准所做的努力。特定常规武器公约》召集了一个政府专家小组（GGE），考虑对AWS的人类判断或控制水平进行标准化的定义，以确保人类对机器的行为负责。政府专家小组最关注的是确保在敌对行动中使用致命性武器（LAWS）符合武装冲突法。这项工作旨在弥补致命性武器系统在法律上暴露的 "漏洞"。然而，无论这一过程中产生了什么标准，都不可能成为确保致命性武器系统的运作符合武装冲突法的有效和可靠的指导。

此外，一些非政府组织和有关国家认为，让指挥官对行为不可预测的自主武器系统负责是不公平的，但这正是军队运作的方式--赋予军事指挥部对部队的全权和责任。特定常规武器公约》政府专家小组的努力不太可能产生详细的、被广泛接受的规则，从而有意义地改进这种模式。作战的军事指挥官已经对他们在武装冲突期间使用人工智能武器系统负责，这是第五部分的重点。

第五部分探讨了体现在军事指挥官身上的人类问责制。军事指挥官对人工智能武器系统的使用以及在他或她的指导下支持战争行动的所有努力路线负责。直接的、个人的指挥责任是长期的、完整的。对所有军事行动--包括武装冲突中由人工智能发动的攻击--的相应责任由指挥系统的最高层承担。这种问责可能是以刑法的形式，但也包括一系列行政和非司法措施。直接问责涵盖了武装冲突期间发生的每一件事，包括那些国际刑事法院缺乏管辖权或证据不足的事件，因此它规范了指挥官的行为，即使他们没有犯罪意图，事实上，即使他们没有直接 "过错"。

第六部分的结论是，指挥官的直接和个人问责的好处是长期存在，被广泛理解，并被一线军官和军事领导人直观地理解；它是军事文化的一部分。虽然它可以利用法律程序，包括军事司法系统，但它并不完全受制于或依赖这些程序。虽然指挥官仍然要为战争罪受到刑事处罚，但军事问责制也包括一系列非司法和行政制裁。指挥官对人工智能武器系统的问责尤其引人注目，因为与常规武器不同，如果出了问题，没有额外的人（或更少的人）可以负责。