《人机协作的战场应用：价值展示、新能力试验并加速采用》2023最新报告

1 人机协作的重要性和重要启示

机器在21世纪的战场上变得无处不在，现代军队必须接受人机协作（HMT），否则就有可能将军事优势拱手让给有效利用人工智能（AI）和自主性的竞争对手。本报告调查了人工智能日益融入军事行动的影响，尤其侧重于了解美国国防部（DOD）采用 HMT 概念的参数、优势和挑战。

HMT的定义和组成部分

HMT 是指将人工智能和自主系统与人类决策者、分析师、操作员和看守人员一起使用。HMT 将智能人类和机器的能力结合在一起，共同实现军事目标。HMT 的核心是一种包含四个同等重要要素的关系：

人：为机器提供输入、对机器进行测试并利用其输出的操作员；
机器：从人工智能和机器学习（ML）算法到无人机群，机器拥有一定程度的决定权，并支持特定的任务；以及
交互：人类和机器为完成共同任务而进行交互的方式。
界面：人类与机器互动的机制和显示方式。

1.1 关键要点

从 HMT 的三个军事应用角度来看，作者得出以下结论。

HMT 具有改变战争和解决关键作战挑战的潜力：人工智能和 HMT 有可能通过增强态势感知、改进决策、扩大人类操作员的射程和杀伤力，以及在多领域作战中获得并保持优势，从而改变冲突和非战斗行动。HMT 还能提高后勤、维持和后台管理等许多辅助功能的效率，降低这些流程的成本和时限，并将人类解放出来，在这些任务领域执行价值更高的任务。
美国防部须扩展其对 HMT 的定义：HMT 的定义应予以扩展，以包括人类与自主非乘员系统和人工智能体的交互广度，包括那些没有物理形态的系统（如决策支持软件）。将定义扩展到人类与机器人之间的互动之外，可使国防部实现 HMT 的广泛用例--从在高强度战争中使用致命武器系统和无人机群，到利用算法融合数据和实现信息领域的虚拟连接。
HMT 的开发和应用必须优先考虑以人为本的团队合作：人工智能的发展速度惊人，推动了机器能力的潜在飞跃，并对确保人工智能体的安全性、可靠性和可信度提出了更高要求。必须同样重视培养人类操作员的能力、舒适度和信任度，以有效利用 HMT 的价值，确保人类始终处于人机团队的中心位置。
美国防部须从概念走向实践：人机协作作为一种概念，在国防部的某些部门正获得越来越大的发展势头。然而，更多采用人工智能和 HMT 的倡导者强调，有必要将对话从概念转向实际--将能力开发过渡到 HMT 能力的实时测试和使用，海军通过第 59 特遣部队进行的人工智能试验就证明了这一点--以更好地阐明和展示 HMT 可带来的作战优势。

图 1：HMT 三层价值的高级描述。

增强态势感知，加快决策制定（包括检测模式和异常现象）
增加操作员和高价值平台的操作范围和生存能力
降低整个国防部活动的成本和时限，包括但不限于存在、威慑、作战和消耗

注：这些价值已经在美国防部的某些部门得到承认和认可，尽管随着与 HMT 相关的技术和概念的进步，这些价值可能会得到加强或扩大。资料来源 Tate Nurkin，图片来自 Vecteezy 和大西洋理事会。

实验是建立信任的关键：在迭代的真实世界实验中，人类开发出新的操作概念，测试机器队友的极限，并更好地了解机器在各种环境中的突破点、优势和劣势，这对加快 HMT 的采用将起到关键作用。这种意识对人类操作员也至关重要，因为他们需要培养对人工智能队友的信任，从而有效利用 HMT 的潜力。
美国防部须解决采用人工智能所面临的官僚主义挑战：国防部规避风险的文化和各自为政的官僚作风正在减缓 HMT 概念和能力的获取、实验和采用。要克服这些挑战，就必须提高 HMT 能力采购流程的敏捷性和灵活性、迭代实验、承担风险的激励机制以及整个兵力的数字扫盲。

2 人机协作的应用

HMT 最常被狭义地设想为人类与一个到数百个或更多自主非乘员系统进行交互的过程。就其最基本的形式而言，这种对 HMT 的设想并不新鲜：人类与智能机器的合作已有数十年历史--1997 年，超级计算机 "深蓝 "在国际象棋比赛中击败世界冠军加里-卡斯帕罗夫（Gary Kasparov）就是早期机器人才的缩影--军方长期以来一直在测试各种概念，以推动这一关键能力的发展。然而，最近人工智能和机器人技术的发展速度令人印象深刻，促使人们越来越多地考虑这些技术所能带来的新能力、效率和优势。

忠诚僚机概念是 HMT 这种表现形式经常被引用的一个例子，在这个概念中，人类飞行员控制着一些相对廉价、模块化、可隐蔽的自主无人驾驶航空系统（UAS）的任务分配和操作。这些僚机可在载人飞机前方飞行，执行一系列任务，包括电子攻击或防御、情报、监视和侦察（ISR）或打击，或作为诱饵吸引其他资产的火力，"点亮 "敌方防空系统。

不仅美国，大多数现代国家的军队都对 HMT 的这种表现形式越来越感兴趣。除美国外，澳大利亚、中国、俄罗斯、英国、土耳其和印度都至少有一个积极的忠诚僚机发展计划，而第六代战斗机全球空中作战计划（英国、意大利、日本）、下一代空中主宰计划（美国空军和海军）和未来空中作战系统（德国、法国、西班牙）都涉及强调HMT和机-机协同的空中力量系统概念。

双腿小队支援系统是海军陆战队作战实验室正在测试的实验性技术。该系统经过编程，可跟随操作员穿越地形，携带水和食物等重物。图片来源：美国海军陆战队

尽管这类 HMT 对新兴军事能力非常重要，并将继续发挥重要作用，但对 HMT 的讨论应包括人类与智能体（根据其环境、经验和输入进行学习并做出判断）互动的全部范围，包括与不具备实体形式的算法进行的绝大多数互动。Maven项目（Project Maven）就是一个例子，说明国防部和现在的国家地理空间情报局如何利用这类 HMT 从各种形式的媒体和收集到的情报中自主探测、标记和追踪感兴趣的物体或人类，从而使人类分析师和操作员能够优先关注他们的重点领域。

除图像分析和目标识别外，非物理形式的 HMT 还能支持一系列重要任务，如威胁探测、数据处理和分析。在速度、复杂性和可用数据显著增加的作战环境中，这对提高军事效率至关重要。它们还能提高后勤和维持、培训以及后台行政任务的效率，从而降低成本并缩短执行时间。

通过将人工智能的处理能力和决策支持能力与人类的社会智能和判断力相结合，并在某些情况下与具有不同自主程度的非乘员系统的兵力倍增效应相结合，HMT 可以为美国及其盟友和合作伙伴提供多层次的重叠优势，包括图 1 中列出的那些高级优势。

作为 "加速采用人工智能和创建一支适合我们时代的兵力 "的更广泛努力的一部分，国防部对 HMT 当前和未来多层次价值的认识有所提高。尽管如此，整个五角大楼在采用人工智能和 HMT 方面仍面临一些长期挑战。为了加速和深化 HMT 的采用，国防部必须致力于采用一种方法，将开发工作与私营部门的参与结合起来，为采购官员在整个国防企业中推广 HMT 解决方案创造灵活性。这种方法必须辅以以下措施：

继续并更加重视在人类和机器合作伙伴之间建立信任；
带头建立道德和安全方面的最佳实践和规范；
积极迭代实验；
清晰一致的信息传递

这些要素对于实现 HMT 在未来多领域战斗中的价值和优势至关重要。

表 1：各 HMT 用例的优势概述

反介入区域拒止 (A2/AD) 冲突：
- 使用大量消耗性和可隐蔽系统，穿透 A2/AD 环境，维持兵力，扩大在 A2/AD 警戒线外行动的载人平台的作用范围。
- 在数据丰富的环境中查找、固定和跟踪关键节点和威胁。
- 提供边缘态势感知。
感知和目标定位
- 通过数据处理和融合增强态势感知和威胁探测，提高态势感知和威胁探测能力，确保以最快的速度做出决策。
- 找到人类分析师和操作员不知道的关联。
- 支持人类跨领域识别目标和确定优先次序。
- 向人类决策者推荐最适用的动能或非动能武器来打击目标，从而提高效果的精确性。
存在、优先顺序和威慑力
- 通过使用包含多个无人系统的 ISR 网，扩大高价值有人资产的范围。
- 在地理位置分散的战区识别活动模式的异常和中断。
- 根据人工智能驱动的评估，确定威胁的优先级，确保高效的资源分配。
- 在真实环境中进行积极的迭代实验，可在操作员与其机器合作伙伴之间建立信任。

用于情报和规划活动的大型语言模型：2023 年 3 月发布的 Chat GPT-4 引发了关于美国防部如何利用类似大型语言模型（LLM）工具支持情报活动的讨论。可以理解的是，有人担心 LLM 目前的复杂程度及其 "幻觉 "倾向--编造不正确的信息--会使广泛使用或依赖这些工具为时过早，甚至适得其反。不过，使用 LLMs 进行试验将有助于更好地了解这些工具在哪些方面以及如何实现增值，尤其是当它们变得更加可靠时。2023 年 4 月“石上战争”（War on the Rocks）详细介绍了美国海军陆战队高级作战学院如何利用兵棋推演来探索 LLM 如何协助人类进行军事规划。这些系统被用来提供、连接和可视化不同层次的信息和分析--例如对区域经济关系的战略层面的理解，以及对特定国家动态的更有针对性的分析--然后规划人员利用这些信息和分析来完善可能的行动方案，并更好地理解对手的体系。

建议和结论摘要

HMT 为二十一世纪的军队提供了多项优势。因此，国防部必须投入足够的时间和资源，以应对上述采用方面的挑战。要促进 HMT 的采用，就必须将新理念、新程序和新激励措施结合起来，并加强目前正在进行的、前景看好的加速采用工作，特别是与以下领域相关的工作：

开发一种全事业范围的 HMT 应用方法，该方法建立在设立首席数字和人工智能办公室等中央机构的基础上，并为其提供充足的资金和授权，以确保整个国防部在需求、能力、基础设施和战略开发以及采购和供应商参与方面相辅相成。
在复制现实世界作战环境挑战的环境中进行快速、迭代和积极的实验，将有助于人类测试和了解 HMT 技术的突破点，从而促进技术的采用。不同程度的实验还能建立人类对其人工智能队友的信任，这是优化 HMT 价值所必需的。
通过改革融化 "冰冻的中间层"，这些改革可提高对快速行动的激励，调整国防部和国会的改革优先事项，并加强努力，以确保在整个企业而不是逐个军种或逐个司令部采用 HMT。大西洋理事会国防创新采用委员会提出了几项适用于获取和采用 HMT 能力的具体建议。
在未来作战环境中，作战速度、可用数据量和威胁的复杂性都将大幅提高，阐明并展示 HMT 的多层次价值，以赢得对竞争对手和潜在对手的优势。
继续在机构和道德问题上发挥领导作用，优先考虑以合乎道德和负责任的方式开发和使用值得信赖的人工智能，并将人类--人类的判断力--置于人机团队的中心位置。美国政府和私营部门应重新审视和更新有关机构和伦理的指导方针，以反映当代技术发展趋势和能力。
制定战略信息，强调人机团队的价值和安全性，供美国防部和国会利益相关者以及更广泛的美国社会使用。