【美国陆军】《人工智能系统能否提高陆军任务指挥过程中的信息收集效率？》39页技术报告

2022 年 8 月 31 日 专知

执行摘要

研究要求：

由于传感器数量和人工智能（AI）应用快速增多，未来的作战环境将以丰富的信息和机器速度的决策为特征。因此，美国陆军指挥官和他们参谋人员将需要有能力筛选大量的信息，更快地做出决策。商业人工智能系统有可能提供这种能力，但美国陆军不能指望"开箱即用"的商业人工智能系统具有通用能力，因为这种系统需要针对美国陆军的情况进行充分的训练。此外，还需要进行研究，以了解军队中的人工智能目前可以做到什么和不可以做到什么。总的来说，人工智能往往擅长于主要通过模式识别来解决的任务，以及可以从任务数据中进行预测的任务，如图像识别、医疗诊断和文本转录。然而，目前还不知道人工智能是否可以用于提高美国陆军信息收集效率。因此，在目前的研究中，探讨了以下问题：人工智能能否用于提高美国陆军任务指挥过程中的信息收集效率？

研究方法：

为了回答研究问题，本文使用了一个商业人工智能应用系统，它反映了军队任务指挥部人工智能应用原型的首次开发工作。在这项研究工作中，比较了这个为军队量身定做的人工智能系统和其他两种信息收集方法的参与者在信息收集任务中的表现：传统的信息收集方法（在计算机文件夹中搜索PDF文件）和非军队量身定做的人工智能系统版本。军队定制的系统使用军队相关的知识来帮助搜索（例如，它知道 "MDMP "等同于 "军事决策过程"），而非军队定制的系统则没有。我们在以下方面比较了这三种搜索方法：1）参与者找到准确的搜索结果所需的时间，2）参与者搜索结果的准确性，3）参与者对其搜索结果的信任程度，4）参与者对使用该系统工作负荷的看法，5）参与者对该系统可用性的看法。

研究结果：

参与者在使用人工智能系统时比使用传统搜索方法时既不快也不准确。当使用人工智能系统而不是传统方法时，参与者对他们的搜索结果也没有更多信任。然而，在使用军队定制的人工智能系统而不是非军队定制的系统时，参与者的搜索速度更快，但准确性也更低。最后，在不同的搜索方法之间，参与者对工作负荷和可用性的感知没有明显的差异。

研究结果的利用和传播：

这项研究是确定人工智能系统对信息收集效率影响的第一步。总的来说，我们的研究结果表明，人工智能系统可能不会大幅提高美国陆军任务指挥过程中的信息收集效率，至少不会立即提高。虽然这项研究的重点是在受控实验室中的无关要害任务（即寻找战术情况下的理论解决方案），但未来计划的使用将不会那么无害，这表明需要未来研究来测试假设。对人工智能的投资应该伴随着对培训和研究的投资，以获得人工智能的全部优势并减少风险。假设人工智能系统是银弹是不审慎的，事实上，这项研究表明人工智能系统需要被充分审查。

简介

战争正变得越来越复杂。陆军指挥官需要考虑在地面、空中和海上的战斗，以及在信息和网络环境中的战斗（美陆军部，2017）。随着社交媒体的出现和计算机的日益强大，在这些环境中的行动可能会导致地缘政治损失，而在过去，只有通过更传统的行动，如地面攻击、空中打击和海上轰炸才能实现。此外，美陆军指挥官不仅应该期待来自其他民族国家部队的复杂和有影响的打击，而且还应该期待看起来不复杂的对手，因为网上零售商使人们很容易购买到过去难以获得的产品（包括合法的和非法的），如无人机、夜视镜和枪支。在这一切之上，陆军指挥官需要在一个前所未有的水平上做出准确和及时的决策，因为人工智能（AI）正在许多军事职能和领域中实施，如网络战、航空和信息收集。这些因素加在一起，为陆军指挥官创造了复杂的作战环境。

为了在复杂的环境中有效运作，陆军指挥官及其参谋人员需要有能力从不同的来源收集大量的数据，并迅速处理收集到的信息，以便及时对信息采取行动。例如，如果对手正在准备一次大规模的作战行动，信息环境、网络环境和物理环境中新的但微妙的多变量模式可能会出卖对手的意图。然而，为了及时发现这些模式，陆军指挥官和他们的参谋人员将需要有能力快速汇总和分析从各个环境传来的数据。此外，为了根据这些数据迅速采取行动，陆军指挥官及其参谋人员需要有能力迅速找到相关的陆军和联合理论，以实施战术和战略，并吸取经验教训，以利用曾面临类似情况的指挥官经验。对于这两项任务--检测模式和根据模式采取行动--人工智能可能被证明是一个非常有用的工具。

正如其名称所暗示的那样，人工智能是由机器而非人类或动物等非人工实体所展示的智能。在这种情况下，智能包括通常与人类相关的认知功能，如推理、计划、学习和感知。因此，人工智能的主要目的是取代或增强人类的某些任务，如驾驶、飞行和图像识别（例如，自动检测和识别人群中的面孔）。例如，谷歌和优步等公司目前正在自动驾驶汽车中使用人工智能，人工智能充当了车辆的驾驶员，因此是使自动驾驶汽车自动化的实体。此外，美国陆军目前正在探索将人工智能用于自动车辆识别。

人工智能主要通过两种方式实现 "智能化"。一种方式是通过编程使人工智能的软件接受某些输入并根据输入做出某些输出。例如，视频游戏中的人工智能竞争者可能被编程为在玩家向右移动（输入）时向左移动（输出），或者在玩家攻击时进行阻挡。这种方法使用简单的算法--人工智能要遵循的规则--除了最基本的任务外，其他都是低效的，因为人工智能的软件程序员必须思考并手动编程每个规则。这样做很快就会变得不方便，因为许多任务需要许多规则和嵌套的规则--其他规则中的规则（例如，如果接近一个让行标志，如果有另一辆车出现，则要让行，但只有当另一辆车在附近时）。此外，思考一项任务的每一个可能的规则很快就会变得困难，即使是人类认为很容易的任务（如驾驶）。

使人工智能智能化的更好方法是使用机器学习，这是一个从数据中创建统计模型的过程，以提高预测和决策的准确性。机器学习不是明确地告诉人工智能系统如何应对其环境中的某些事件，而是允许人工智能系统从其环境中的行动中学习。更简单地说，机器学习允许人工智能系统从经验中学习。例如，谷歌通过向人工智能系统提供组成游戏显示屏的像素，并允许人工智能系统通过游戏控制器对这些像素进行操作，从而训练人工智能系统成功地玩视频游戏Atari Breakout（Leo Benedictus，2016）。人工智能系统的程序很简单，就是通过游戏控制器的动作来最大化其游戏分数，并使用游戏分数来确定一个动作是否有益。起初，人工智能系统在游戏中做出看似随机的行动，但一段时间后，它开始获得得分点，并最终学会了一种人类玩家从未使用过的有用技巧。

机器学习让人工智能在日常生活中变得非常普遍，以至于人工智能被一些人认为是 "新电"（Lynch, 2017）。人工智能倾向于擅长那些主要通过模式识别就能解决的任务。因此，人工智能擅长于图像识别、医疗诊断和转录等任务。像驾驶这样的任务给人工智能带来了更大的难度，因为目前自动驾驶汽车上的传感器无法检测到标记模糊的道路上的模式（例如，被雪覆盖的道路）。人工智能对于从数据中进行预测是异常有用的。例如，医生可以使用人工智能来帮助医疗诊断，因为人工智能能够处理病人的所有数据，将这些数据与已知的医疗条件进行比较，并从比较中产生医疗诊断。人工智能在视觉搜索方面也很有用。一家公司使用人工智能系统搜索航拍图像，以寻找住宅区内水浪费的证据（Griggs, 2016）。该人工智能系统能够通过使用游泳池的存在、灌木的数量和大小以及房屋周围草地的绿色程度等因素，准确判断一个家庭是否在浪费水。该人工智能系统能够以每秒208张航空图像的速度完成这项任务。

信息收集是人工智能具有潜力的另一项任务。信息收集是指从一个来源，如文件库或互联网上提取所需信息的过程。通过使用自然语言处理--人工智能的一个分支，用于处理自然语言数据--人工智能可以从非结构化数据中提取信息，而非结构化数据占世界数据的80%（High, 2012）。与结构化数据不同，结构化数据是以预先定义的方式组织的，包括电子表格和日志，非结构化数据不是以预先定义的方式组织的。非结构化数据包括文本文件、照片、视频和音频记录。人工智能可以用来从非结构化数据中提取相关信息和意义，并以各种方式利用这些信息和意义。例如，美国陆军和美国空军正在探索使用人工智能，从车辆维护和车载系统日志中预测车辆故障（Osborn，2017；Vincent，2018）。此外，未来的人工智能任务指挥系统可能会不断挖掘从众多来源流入的数据，包括社交媒体、新闻频道和卫星数据，并使用这些数据来预测战略竞争对手的行动。这种方法将通过利用过去的非结构化数据（维护日志、社交媒体帖子等），并确定这些数据的哪些特征可以预测车辆故障和竞争者的行动。例如，人工智能系统可能会发现车辆运行温度和车辆故障之间的关系，并利用这种关系来预测未来的故障。像这样的关系将形成一个数学模型，当新的数据出现时，人工智能系统将持续更新。

通过使用自然语言处理，人工智能也可能有助于从陆军条令和经验教训中提取所需信息。陆军有许多条令出版物，指挥官和他们的工作人员经常需要在一个以上的出版物中寻找信息。例如，如果计划进行一次接触行动，指挥官可能不仅需要参考作战条令，还需要参考与指挥官所在梯队相关的条令；如果指挥官的部队要通过一个人口中心，还需要参考民政条令；如果指挥官要使用网络能力，还需要参考网络战条令。此外，指挥官可能还需要快速找到相关条令，特别是在面临对手的意外行动时。在计划一项行动时，指挥官也可能会查阅陆军的经验教训集，以利用过去进行过类似行动的指挥官的经验。

也许有可能使用人工智能来帮助指挥官及其参谋人员在条令和经验教训中找到所需的信息。要做到这一点，必须采取一些步骤。首先，必须为人工智能系统建立一个语料库，将条令和经验教训的出版物加载到人工智能系统中。从这个语料库中，人工智能系统可以学习相关的语言，包括术语，并使用自然语言处理建立一个词库。然后，人工智能系统可以通过建立索引和元数据对数据进行预处理，使其更有效地处理数据。最后，人类主题专家必须训练人工智能系统，以使人工智能系统提供更精确的答案和识别模式。训练可以通过向人工智能系统上传问题和答案对形式的训练数据来完成。这种训练数据不会为人工智能系统提供每个可能问题的答案，但这些数据将帮助人工智能系统学习相关领域的语言模式。一旦人工智能系统被部署，该系统可以通过与用户的持续互动进一步学习。

通过使用上述方法创建人工智能系统，指挥官及其参谋人员可能会比没有人工智能系统可供使用时更快、更准确地从条令和经验教训中收集所需信息。如果没有人工智能系统，指挥官将不得不通过手动搜索每个可能与所需信息有关的条令或经验教训出版物来寻找所需信息。这种手工搜索是一个耗时的过程，可能不会产生最佳的信息产品，特别是当进行搜索的人有时间压力的时候。事实上，人类经常会搜索信息，直到达到一个可接受的阈值（例如，做出决定所需的最小信息量），以避免花费太多的认知资源和精力去寻找一个完美的结果（Simon, 1955; 1956; 1957）。然而，通过使用这种方法，人类可能会产生不那么充分的结果。此外，Simon还观察到，这种方法不太可能产生一个最佳的结果，因为人类通常不会搜索足够长的时间来找到这样一个结果。然而，试图找到最佳结果可能并不理想，因为这样做需要时间，而当找到最佳结果时，结果可能已经不再有用。因此，如果指挥官试图找到一个最佳的结果，指挥官可能无法进入对手的决策周期；指挥官需要平衡寻找结果的时间和结果的质量。另一方面，人工智能信息收集系统可能更有可能找到最佳结果，而且人工智能系统可能更有可能在比人类花费更少的时间内找到最佳结果。

尽管在人类信息处理能力有限的情况下，人工智能系统在寻找条令和经验教训中的所需信息方面可能比人类更有效率（Baddeley，1992），但这一结果是以人工智能系统经过充分训练以识别条令和经验教训出版物中的语言模式为前提。如果人工智能系统没有经过充分的训练，那么人工智能系统的使用者可能会发现次优的结果，并因此对人工智能系统感到失望，最终使人工智能系统被废弃。此外，人工智能系统只有在人工智能系统的人类用户适当地校准他们对系统的信任时才会有用（Hancock等人，2011；de Visser, Pak, & Shaw, 2018）。许多人工智能系统由于各种原因，包括环境背景、用户错误和不同背景下的训练不一致，导致其性能不一致（Rovira, McGarry, Parasuraman, 2007）。例如，一个人工智能系统产生与火力作战功能相关的准确结果，与机动作战功能相比，可能产生不太准确的结果。如果人工智能系统的人类用户完全信任该系统的结果，可能会出现性能下降（Hancock等人，2011）。训练人类用户了解人工智能系统何时可能准确，何时不可能准确是至关重要的（de Visser, Pak, & Shaw, 2018）。相反，如果人工智能系统的人类用户对人工智能系统缺乏信任，那么该系统很可能会被废弃。因此，人工智能系统不会提高指挥官寻找信息的效率，即使该系统本身在这方面表现出色（Hancock等人，2011）。

目前的研究

尽管人工智能往往擅长于主要用模式识别来解决的任务，以及可以从任务数据中进行预测的任务，如图像识别、医疗诊断和转录，但目前还不知道人工智能是否可以用于提高美国陆军背景下的信息收集效率，特别是在陆军指挥官及其参谋人员需要在陆军条令中寻找信息的背景下。因此，在目前的研究中，我们探讨了以下问题：人工智能能否用于提高美国陆军任务指挥过程中的信息收集效率？为了回答这个问题，我们使用了一个商业人工智能应用系统，这反映了陆军任务指挥部人工智能应用原型的首次开发工作。在这项研究工作中，我们比较了这个为陆军量身定做的人工智能系统和其他两种信息收集方法的参与者在信息收集任务上的表现：一种传统的信息收集方法（在计算机文件夹中搜索PDF文件），以及一种非陆军量身定做的人工智能系统。