《军事领域中的人机交互和人类代理》最新报告

要点

• 军队越来越多地将人工智能（AI）技术用于决策支持和作战行动。人工智能不会取代人类，但人员与人工智能技术的互动会更加频繁。

• 人机交互实践有可能深刻改变战争中人的能动性（即做出选择和采取行动的能力）的质量。具体来说，它们在人类和机器之间引入了分布式代理。

• 分布式代理的形式将在一定范围内形成，为人类或机器代理保留更多空间。这种做法发生在多个地点，使用多个联网系统。

• 要解释分布式代理现象，就不能把人机互动的挑战看作是可以直接解决的问题。相反，需要认识到分布式代理提出了基本的操作、伦理规范和法律挑战。

人工智能技术在围绕目标选择的军事决策过程中的应用似乎越来越广泛。起初，人工智能在军事领域的应用主要与武器系统有关，通常被称为自主武器系统（AWS），可以在没有进一步人工干预的情况下识别、跟踪和攻击目标（红十字国际委员会 [ICRC] 2021）。世界各国军队已在使用武器系统，包括一些闲逛弹药，这些系统采用人工智能技术来促进目标识别，通常依赖于计算机视觉技术（Boulanin 和 Verbruggen，2017 年；Bode 和 Watts，2023 年）。虽然通常是在人类批准的情况下操作，但闲逛弹药似乎有可能在没有人类干预的情况下动态使用武力。事实上，俄罗斯在乌克兰战争中的各种报告都指出，乌克兰军队使用的闲散弹药在作战的最后阶段无需人类批准即可释放武力（Hambling，2023 年，2024 年）。这些事态发展坚定地强调了人们长期以来日益增长的担忧，即在使用基于人工智能的系统时，人类在使用武力决策中所起的作用正在逐渐减弱。

然而，武器系统只是人工智能在军事领域众多应用领域中的一个。人工智能技术通常被认为能提高对大量数据的有效和快速分析，使其成为一系列与不同风险程度相关的军事决策任务的理想选择，如后勤、征兵、情报和目标选择（Grand-Clément，2023 年）。在军事领域，这类系统通常被称为基于人工智能的决策支持系统（DSS），“协助指挥链中不同层级的决策者解决半结构化和非结构化的决策任务”。

军方正在逐步采用人工智能技术，原因有几个，其中包括人员问题。人们常常认为，仅靠人的能力无法审查获取战场感知所需的大量数据。此外，许多国家的军队，如日本和英国，在招募和留住人才方面都很困难，因此越来越多地依赖人工智能来解决人才短缺问题。将人工智能技术融入军事决策并不是简单地取代军事人员。不过，随着这些技术的发展，它们有可能通过将各种人工智能技术用于描述性、预测性和规范性目的而改变许多军事人员的工作方式。本政策简报初步反思和评估了与人工智能技术的互动可能会如何改变人类在军事领域的代理权行使，即决策和行动的能力。人机互动的实例塑造了人类与人工智能之间的分布式代理。这种分布式代理不能通过将人类和机器视为孤立的单独实体来理解，因为它是在互动的情况下产生的。

本政策简报分五个部分研究这一现象： 首先，它研究了人类控制与人类代理之间的关系，认为反思代理而不是控制，可以更全面地研究在军事领域使用人工智能技术的意义。其次，它对军方如何谈论人机协作和人机系统整合进行了简要的实证概述。第三，概述了将代理视为分布式代理的含义。第四，它考虑了这种发展可能带来的作战、伦理规范和法律后果。第五，它为参与军事领域人工智能辩论的利益相关者提出了切实可行的前进方向。

关于术语的说明：本简报承认人工智能是一个总括术语，用于描述 “创造出比程序所设定的功能更强的机器或事物 ”的总体努力。所选用的 “人工智能技术 ”一词强调了人工智能与社会融合的复杂性、偶然性和可变性，从而也寻求与人工智能的问题炒作保持距离。人工智能技术依赖于各种技术，如计算机视觉、机器学习、语音识别和自然语言处理。在军事领域，自主性的概念先于人工智能技术，但也与之相关。自主通常是指系统无需人工干预即可执行的功能，如情报分析、机动性或瞄准。本简报的重点是人工智能技术，可以从技术复杂性不断增加的角度来理解人工智能技术。此外，军事领域的人机互动通常被认为既涉及机器人系统，也涉及基于软件的系统。