《针对算法战的人工智能操作化》美陆军报告（译文）

（2020年2月5日，美海军陆战队网络空间司令部的海军陆战队员在马里兰州米德堡拉斯韦尔大厅的网络作战中心观察计算机运行情况。海军陆战队开展进攻性和防御性网络作战以支持美国网络司令部，并操作、保护和保卫海军陆战队事务网络）

冲突的胜负取决于军事抵消，也就是国防单位可以用不对称的方式来打击对手的优势。随着大国竞争、对手技术的超常发挥以及不断扩大的战场，传统的抵消手段往往被人工智能（AI）所增强。然而，国防部（DOD）将人工智能投入使用的能力刚刚起步。五角大楼采用的最初的人工智能计划侧重于将商业能力转移到国防部门，因此强调技术性能，不强调以任务为导向的功能。因此，最初的试点项目未能进入现实世界的作战环境（OE）。

人工智能的实用化

实用化取决于这样一种认识，即人工智能不是一种最终状态，而是实现军事优势的一种方式。为此，人工智能相关方法的技术执行必须与作战环境相结合。这种考虑与传统思维不同，因为人工智能解决方案的开发通常是为了实现某种统计阈值（例如，召回率、精确度），而不是军事目标（例如，增加对峙距离）。

这一动态被 "算法战"一词所混淆，目前该词混淆了技术和军事特征。算法战旨在减少处于危险境地的作战人员的数量，在时间紧迫的行动中提高决策速度，并在人类无法操作的时候和地方进行操作。然而，这些目标都不涉及数学或计算机科学；它们完全建立在军事最终状态之上。问题是，在五角大楼走上人工智能的道路之前，科学、技术、工程和数学学科与军事目的之间的桥梁从未建立。

所需的桥梁是一个指导和评估人工智能实用化的框架，一边是算法性能，另一边是任务效用。这样的组合确保了数学方程可以证明或从数字上验证一个人工智能系统，而定性的基准则保证了实际应用。其结果是算法战不仅基于统计数据，而且基于更广泛的作战相关性架构。这种相关性体现在五个要求上：

最低限度的生存能力。
适应未知和不可知情况的能力。
将洞察力置于信息之上。
应用所需的自主性水平，以及
战场准备就绪。
这些要求首次为评估军事人工智能项目和定义成功奠定了基础。

将技术方法和国防条令结合起来

为军事人工智能项目制定有效性措施（MOE）需要将研究和技术方法（例如，基础理论）与美国防部的条令相结合。如果没有这种映射，算法战就会沦为算法开发过程，而不是作战部署。例如，一个旨在检测视频中目标的计算机视觉算法（如地理空间情报分析）被简化为该模型发现的车辆数量或其发现这些车辆的准确性。那么，成功是指该算法在85%的时间内正确找到车辆。

但在军事行动中，85%的时间检测到车辆有什么用？这就是维护理论的完整性所带来的背景。以上面的例子为例，评估同一算法时不是看它正确探测车辆的频率，而是看它对任务的影响：由于该模型的存在，分析人员识别感兴趣的车辆的速度提高了95%。这样的方法将算法的设计与任务的部署联系起来。虽然这似乎是常识，而且这种关系甚至可能在项目文件中被模糊地表示出来，但在国防部的任何地方都没有一个表示的标准。

评估标准仍然需要保持解决方案的独立性（即，无论情报类型、使用的算法、部署的作战环境或任务要求如何，这些标准都适用）。因此，在这项研究中，人工智能原则被编入可量化的属性和指标中，与系统和程序无关。评估标准也以 "去 "与 "不去 "的方式进行表述，以创建一个符合逻辑的、自上而下的层次结构，与相关的联合出版物同义。其结果是规范、监测和评估国防部人工智能系统的基线。

国防人工智能运作的框架

如前所述，可实操化的人工智能是由任务效用的五个方面定义的人工智能：最低限度的可行性、适应未知和不可知情况的能力、洞察力优先于信息、应用所需的自主性水平以及战场准备情况。这些MOE中的每一个都是算法战的基础。对这些信息的分析产生了一个全面的框架，其中包括每个MOE的指标和效果。整个框架是以条令定义和程序为基础的。

（2017 年 11 月 1 日在华盛顿特区举行的 NVIDIA GPU 技术大会期间，显示屏展示了用于执法的车辆和人员识别系统。该大会展示了人工智能、深度学习、虚拟现实和自主机器。）

衡量有效性

衡量有效性的军事程序依赖于一个自上而下的架构。这意味着，只有当一项措施的每一个指标也存在时，该措施才会存在。同样，一个指标只有在该指标的所有影响也存在时才会存在。这是一个二元的、全有或全无的过程，可以像常规军事活动一样随时适用于人工智能。

在传统的高价值目标（HVT）生命模式分析中，一个MOE定义了军事行动的一个预期结果（例如，高价值目标移出责任区[AOR]）。该MOE的所有定义指标必须得到满足，因此不能任意或有选择地称之为成功。例如，情报应该表明：(a) 在新的责任区发现了HVT，(b) 在新的责任区发现了已知的HVT同伙，以及(c) HVT在新的责任区获得了基本的生活支持系统（例如，住房，交通）。随后的效果遵循同样的过程：支持指标 "a "的效果可能包括识别已知的物理特征和探测通信信号。

因此，尽管常规和人工智能MOE在战术执行上有所不同，但决策验证的基本系统是相同的。只有在对人工智能领域有基本了解的情况下，才能验证人工智能MOE，这与情报部门制定的MOE不能由作战部门验证的情况是一样的。

描述有效性--技术浪尖

算法战是通过人工智能手段进行的战争。人工智能手段是指那些不仅是智能的（收集和应用洞察力），而且是人工的（以人类无法做到的方式对智能采取行动）。在没有人类干预的情况下，系统必须学习如何为自己表示数据。这方面的另一个术语被称为机器学习。有不同类型的机器学习，但当涉及到战场时，无监督的机器学习将成为黄金标准，因为它的灵活性和从未知和非结构化信息中获取输出的能力。在这个黄金标准中，一种被称为深度学习的特定方法是独一无二的，它能够更精确地表示复杂的问题。鉴于战场的动态性质，更精确地表示复杂问题的能力是最重要的。

因此，算法战只能通过以下方式实现：(a) 工作系统（最低限度可行）能够（b）从未知和不可知的场景（无监督）中自行学习，同时（c）将复杂的战场环境转化为有用的洞察力（启用深度学习）（d）几乎没有无指导（自主）和（e）在实时任务环境中（战场准备）。这些MOE和图中的架构是人工智能实操化的第一步；它们为如何凝聚技术和操作因素奠定了基础，同时也使任何人工智能项目的 "成功 "标准化。

（图数字算法(人工智能)战争的有效性度量）

人工智能作战必须发挥作用

最低限度的可行性检验了算法战是否积极地改变了作战环境。"积极改变作战环境 "意味着存在着竞争优势和性能改进，证明人工智能的部署是合理的。该理由来自行业指标（技术因素）、针对类似系统的排名以及对人类操作员的效用。

在翻译的例子中，一个自然语言处理算法在以下情况下是最可行的：（1）行业指标证实它准确地将地面真相数据翻译成正确的语言；（2）该算法在同一技术类别和OE中优于其他可用算法；（3）机器翻译优于人类。

与最低生存能力相关的竞争优势和性能改进因素是必要的，因为如果没有这些因素，非算法衍生的战争将更加有效--因此，否定了对可操作人工智能的需求。

灵活和适应性强的系统

无监督算法是实战任务的理想选择，因为它们的灵活性和即使在未知情况下也能得出洞察力的能力。简而言之，无监督系统可以在没有预设信息的情况下运行，并在新信息出现时学习。

可以从敌人交战的例子中得出一个常规的等价物。例如，部署的服务成员在交火结束之前并不知道交火会如何发展。然而，他们被期望在没有警告的情况下对敌人的火力做出适当的反应，并对新的对手的运动和活动得出相关结论。

成功的算法战项目将需要在战术执行和长期学习能力方面表现出与军人相同的适应性。

减少任务的复杂性

回顾一下，深度学习可以降低复杂性。在实际任务中降低复杂性是关于如何表示和理解信息。正如人类一样，有效的算法战是以模式检测、推理和问题解决为前提的。

模式检测本质上是获得知识，然后可以概括地预测未来的未知情况。假设一个部署在机场的非航空部门的军人看到一架直升机从头顶飞过。这个人注意到该直升机独特的物理特征，如整体尺寸或串联旋翼。这些独特的特征将直升机与其他变化区分开来，随着时间的推移，服役人员可以利用学到的视觉线索在整个机群中选择正确的直升机。人工智能以同样的方式识别视觉模式；在随后的观察中反复学习直升机特征。然后，这些特征被概括为区分一架直升机和另一架直升机或一架直升机和非直升机。

推理改进了知识的获得，以便发现环境中的微妙之处，并将这些微妙之处逻辑地联系起来。例如，如果在某些天气模式下从未见过直升机，推理将推断出天气（OE的次要元素）影响了飞行能力。有了人工智能，恶劣的天气会增加二次确认，即没有旋翼的飞行物不是直升机。

最后，顺序问题的解决将一个大问题（即如何驾驶直升机）分解成更小的问题（即飞行路径是什么，有多少燃料，需要多少飞行员，等等）。因此，如果不降低复杂性，算法战将缺乏将信息转化为洞察力的能力。

在很少或没有指导的情况下运作

由于算法战假定利用了非人类的手段，人工智能必须独立地制定和裁决行动方案。而人工智能必须根据自己的决策、反应能力和对形势的认识来完成这一裁决。

决策是一个在环境中发展和解决选择的问题。在一个惯例的环境中，一个指挥官面对相互冲突的情报、监视和侦察飞行路线，会制定一个资产优先级矩阵，然后根据这些要求进行冲突处理。这不仅仅是一个产生可行方案的问题，而且还要弄清楚这些方案中哪个对整个任务最有利。为了做到这一点，系统必须能够融合决策标准（例如，资产的数量、收集要求、飞行时间等）。必须有传感器来定义决策标准（例如，飞机燃油表或人类/口头提示）。然后，必须对所有可用的选项进行修剪。最后，系统必须认识到当前状态的变化，并对该变化产生的新信息做出反应（例如，航空资产的驻留时间结束，所以不再需要解消冲突）。

响应性是对决定性的补充。也就是说，系统能否在规定的时间内对它从未见过的情况作出适当的反应？要做到这一点，系统必须具备必要的态势感知功能：摄入、处理、迭代和行动。所有的指标都能确保可操作的人工智能改善决策时间表，而不是抑制它们。

将人工智能推向现实世界

战场准备度是衡量系统是否能在实际任务空间中运作的标准。由于任务限制是巨大的，人工智能不能在实验室里开发，而不预先考虑它将如何在现实世界中运作。明确地说，实验室人工智能的局限性并没有被战场所规避，而是被放大了。开放式架构受到军事基础设施的限制。不可知的管道被孤立的、传统的系统所困。普及的高速网络一旦部署到前方就会变得零星或断断续续。而商业部门普遍存在的未经审核的专家则被访问受限的用户社区取代，他们几乎没有人工智能的专业知识。

简而言之，人工智能必须补充，而不是混淆正在进行的行动。从一开始就解决任务限制，然后必须包括与现有系统的整合和沟通。此外，这种整合应该进行测试或鉴定，以便在部署前证明效用，以及这种效用的左右限制。这就像军事人员被授予可部署性的范围一样，或者反过来说，糟糕的体能测试会导致不可部署性的发生。

五个可操作的人工智能MOE共同代表了初始和完全操作能力（IOC/FOC）的标准阈值。使用MOE框架中的决策门做出的IOC/FOC决定将加速人工智能的采用并改善美国在算法战争领域的定位。

（图军事人工智能发展的目标之一是在人类智能代理团队中将战场上的士兵与无人驾驶车辆直接联网，这将加速情报收集、目标识别和火力任务执行。）

建议

如果没有一个支持算法战的人工智能操作框架，当前的美国防部计划将会失败。本文提出的框架是第一个在国防人工智能领域定义成功的框架，并将为政府监督提供必要的问责措施。

虽然本文的意图是对算法战争的不可知的解决方案，但额外的研究是必要的。应指定资金用于将这一框架串联到具体的系统、学科和项目。为了支持这一努力，获取机密材料和对机密系统进行定量实验将是至关重要的。定量实验不仅可以验证本文的前提，还可以开始创建一个网络来比较和改进国防人工智能测试和评估。也就是说，在多种环境、系统和问题集中持续、一致地使用MOE架构将使人工智能项目在一个单一、共同的评估框架下保持一致。为此，本文介绍的MOE架构支持两种功能：（1）通过迭代改进 "走-不走 "决策门的结果来实现更有效的系统；（2）通过比较各自的MOE来决定各种系统。

从战略上讲，图中概述的架构应该被整合到国防部的采购、技术和后勤流程中。目前的范式不是为人工智能项目的指数增长和非传统性质而建立的。围绕普遍的评估标准校准当前和未来的国防部人工智能解决方案将实现标准化，同时加快耗时的采购流程。此外，负责企业人工智能活动的组织应在其工作中实现框架的标准化，以便更迅速地将应用研究和开发过渡到业务使用。

不过，组织的努力不应停留在政策上。目前，国防部没有利用军事人员进行人工智能活动的机制。具体来说，没有与人工智能相关的军事职业专业（MOS），也没有官方系统来识别和分配熟练人员到人工智能项目。其结果是缺乏可用的混合人才；也就是说，既精通人工智能又精通任务的人员。建立一个数据科学或以人工智能为导向的MOS，类似于在网络领域发生的情况，将使人工智能能力的运作更具可持续性。它还将以越来越多的合格军事人员来充实小规模的合格人工智能专业人员库。另外，传统的MOS可以适应现代战争的特点。例如，在一个多情报融合普遍存在的世界中，特定学科的情报分析员可能并不重要。修改或增加人工智能技能标识或专业将遏制MOS相关性的下降。

在战术上，五角大楼对人工智能的推动需要伴随着一场自下而上的运动，这样采用人工智能的组织就不会简单地被赋予一种没有背景的能力。相反，他们应该在他们带来的抵偿中拥有积极的发言权。基层的努力可能包括在IOC/FOC设计计划之前在单位层面进行影响分析和压力测试，以了解脆弱性和优先需求。