《2030-2040 年的人机编队作战》最新165页

本报告回答了美国陆军未来司令部司令詹姆斯-雷尼（James E. Rainey）上将根据现有的公开资料和对主题专家的访谈提出的战略问题。

到 2040 年，技术上可行、军事上相关、伦理上可接受的人机协同应用可能有哪些？
有哪些可能的法律和伦理影响会推动需求或产生限制？从现在到 2040 年，这些影响可能会发生哪些变化？
以陆军为重点的跨领域人机协同的未来如何？
在整个作战功能范围内利用自主系统并确定其优先次序的决定因素可能是什么？
从现在到 2040 年，关于在战斗中使用自主系统的国际和社会规范可能会如何演变？

到 2040 年，人机协作（HMT）的应用极有可能（71%-85%）跨越四个阶段，而不是一个阶段。大多数应用将具有军事相关性和技术可行性，一些应用在伦理上是可以接受的，这取决于可能出台的各种管理政策（56-70%）以及竞争连续体的状况。

四个连续体是 (完整定义见附件 G）：

社交互动程度：非社交用户界面与社交用户界面。非社交系统在设计上无法与人类或其他系统进行会话式交互（例如：Uber 司机界面），而社交系统的用户界面在设计上能够理解和响应社交线索，具有逻辑会话能力，并能模拟类似人类的行为（例如：生成式预训练转换器（ChatGPT））
自主程度：人在环内（HITL）到人在环外（HOOTL）。从 “人在环内”（HITL）（例如：先进野战炮兵战术数据系统）到 “人在环上”（HOTL）（例如：爱国者系统或近程武器系统(CWIS)），再到“人在环外” （HOOTL）（例如：完全致命的自主武器）。
能力水平：狭义与广义人工智能（AI）。狭义人工智能是指当前大多数人工智能技术都是为一种特定应用而设计的（例如：语音或面部识别），而广义人工智能则是指一种应用是为同时管理多种任务而设计的（例如：数字智能分析）。
机器人技术水平：从非机器人到机器人。不能实际触摸的非机器人系统（例如：Alexa）与可以看到但不能触摸的全息表示系统（例如：光环视频游戏中的 Cortana）相比，主要是可以触摸并与物理世界互动的机器人系统（例如：敏捷移动机器人 Spot®)

当今的绝大多数应用主要是非社交性的，大多具有 HITL 级别的自主性、“狭隘的 ”单一任务人工智能以及远非机器人的自动化功能。相反，到 2040 年，许多与军事相关的系统，包括一些最重要的系统，如指挥与控制 (C2) 和情报系统，将很有可能拥有社交用户界面，在实现 HOTL 自主性方面取得重大进展，表现出广泛、多功能的人工智能品质和类似人类的认知能力，并在整个作战功能 (WFF) 方面向机器人系统大幅迈进（见图 1）。

图 1：描述了所有世界飞行任务中 HMT 应用的总体情况。团队通过对当前人机协作战略和技术的综合分析、个人经验以及对大型军事组织未来需求的研究，对 HMT 进行了调查。对这些发现进行了综合，并结合对前瞻性 HMT 文献的回顾，确定了系统的关键连续性。最后，使用 “小组技术”（Nominal Group Technique）对每个组成部分之间的关系进行了评估，并通过构成本研究主体的 30 份单独报告进行了交叉检查。最终得分以平均值为基础，旨在显示各连续性随时间推移而发生变化的程度。

各连续体未来的作战功能

上文概述了各连续体与军事相关的 HMT，下面是一些具体例子，说明根据研究结果，在不同的 WFF 中，应用可能会有怎样的趋势。

指挥与控制 (C2)

支持 HMT 的 C2 应用程序很可能会发生重大变化，包括增加具有广泛人工智能功能的社交界面平台，以及主要由 HOTL 自主操作。许多参谋人员可能不会与指挥官一起出现在战术作战中心。相反，他们将被在分散地点工作的智能体所取代或增强，这些智能体能够通过虚拟现实（VR）或增强现实（AR）设备提供实时数据（见图 2）。这种虚拟战术作战中心（V-TOC）很可能通过整合 6G 通信网络、边缘人工智能技术、神经形态计算和先进的全息显示技术等一系列应用来实现。这些使能技术的集成可能会为 HMT 提供更准确的关于对手、威胁以及可用资产和潜在行动方案的共同行动图景。

图 2：虚拟战术作战中心 (V-TOC) 描绘了未来分布式作战环境中的指挥通信能力。来源：Fiverr

社交用户界面最近以惊人的方式展示了其吸引力。根据布鲁金斯的研究，为 ChatGPT（有史以来增长最快的应用）等平台提供动力的大型语言模型（LLM）的需求正推动计算开发每六个月翻一番，这表明了更多基于社交的界面的发展趋势。
包括英特尔网络与边缘事业部高级副总裁尼克-麦基翁在内的行业专家预计，6G 可能会在 2030 年左右推出。6G 网络将可能为边缘人工智能系统的运行提供必要的网络，非常适合在大规模作战（LSCO）中维持分散地点的 C2，并提供先进全息显示器所需的基础设施和带宽（见图 3）。
IBM 的技术专家还预测，Edge AI 与其神经形态计算芯片的集成将支持未来的任务指挥系统，为野外环境中无缝操作所需的软件能力提供速度、效率和安全性，并支持 AR 和 VR 图像等高性能应用。

图 3：支持 6G 和边缘的作战中心。资料来源：Team Singularity MidJourney

情报

到 2040 年，支持情报 WFF 的应用程序极有可能利用 AR 显示屏和人工智能可视化工具的进步，拥有更具社交互动性和直观性的界面，以及可定制的仪表板。6G 网络能力、升级的传感器技术（见图 4）和全息技术的进步将为基础广泛的人工智能系统提供更多功能，能够通过融合所有传感器数据提供实时威胁分析和态势感知。情报在自主性方面可能会略有变化，仍然是 HOTL，由虚拟分析师从分散的地点进行收集、分析和提供建议。情报可能会在机器人方面略有进步，主要是通过先进的全息三维显示器，为指挥官提供个性化的作战环境视图。

图 4：未来情报在社会和广泛领域的增长最快

根据 PEW 的研究，50% 以上的千禧一代依赖能通过语音指令执行日常任务的数字助理，这表明了更多基于社交的界面设备的快速发展趋势。三星、苹果、亚马逊和谷歌等公司继续投入巨资，将此类语音技术与 ChatGPT 等人工智能应用集成在一起。
专业化的硬件和软件套件，如研究实验室的全息显示器和 Field Lab 的固态光显示器计划，提供了比当今触摸屏显示器更先进、更高效的硬件。情报方面的商业投资和研究将提供原型，这对国防部门的分析人员也同样有益。
未来的先进显示屏很可能是多种用户界面的组合，例如 Touchpoint 的 “无屏幕 ”触摸功能、三星的可折叠柔性屏幕、宝马的语音控制概念车，甚至是 3D 视觉图像。

移动与机动 (M2)

支持与 M2 相关的 HMT 的应用极有可能涉及大幅提高人机协作的集成度，让机器人作为有机资产与人类士兵协作。由于机器人和自主系统 (RAS)、液态神经网络 (LNN) 和脑机接口 (BCI) 的进步，M2 WFF 极有可能包括更多的社交界面、广泛的功能和 HOTL 自主性，但受到电池电量的限制（见图 5）。

图 5：移动和机动WFF所有四个连续体的整合与进展。

杜克大学 2023 年的一项研究预测，在扩大机动部队的作战范围、态势感知和跨域机动的有效性方面，RAS 将发挥关键作用。这很可能需要融入更广泛的人工智能，如自主车辆感知、学习、推理、通信、导航和物理能力，以增强和提高在复杂和有争议环境中的机动自由度。
根据兰德公司 2020 年的一份报告，BCI 的应用将支持国防部门正在进行的技术倡议，包括改进决策和辅助人类行动，以实现先进的有人和无人作战团队。
领先的技术创新机构格拉茨大学确定，英特尔的神经形态芯片在深度学习方面的能效最高可提高 16 倍。由于功耗高，利用深度神经网络（DNN）的新人工智能方法对更广泛的部署构成了巨大障碍，特别是在边缘设备中。

维护

2030 年至 2040 年期间，维护应用中的机器人化和自动化程度极有可能大幅提高（见图 6）。边缘人工智能计算、6G 网络可用性、RAS 和 LNN 等新兴技术将可能支持先进的机器人技术，能够自主执行各种与维护相关的任务，同时利用母舰方法提高维护效率，并通过更长的通信线路改善操作范围。此外，它可能会利用更多基于社交的界面设备，并适度改变广泛的人工智能能力。在六项联合职能中，维护行动最有可能成为人工智能和自主系统（AS）技术应用的速赢领域。

图 6：“可持续发展 ”的未来趋势是：机器人和自主性大幅提高，社会性和广泛性适度提高。

据麦肯锡称，人工智能和机器学习正在使供应链自动化，以学习和预期用户活动。预测分析利用数据挖掘、预测建模和机器学习来分析过去和当前的事实，从而预测波动和中断，使供应链实现自动化。这使得人工智能供应链的效率提高了 65%以上，同时降低了风险和总体成本。
就在 2023 年 4 月，麻省理工学院（MIT）的研究人员利用大脑启发的 LNN 展示了无人机自主导航的新进展，LNN 是一种强大的机器学习模型，可以在工作中学习并适应不断变化的条件，是当今 LLM 的进化。这一进步支持在看不见或不熟悉的环境中自主飞行和驾驶，为未来的人机团队做出了贡献（见图 7）。

图 7：麻省理工学院无人机利用液态神经网络导航未知环境。

火力

2040年的火力应用极有可能在机器人技术和人工智能方面取得重大进展，并在各领域和WFF之间进行整合，以自主确定优先次序并使用自导弹药攻击敌方目标（见图8）。由于集成了多个狭义传感器，这些传感器为广义情报和 C2 决策网络提供信息，因此火力 WFF 也极有可能包括适度增加的社交用户界面平台，为目标选择和交战提供视觉和听觉反馈，以及适度增加的广义人工智能。在边缘人工智能和 6G 网络的配合下，神经形态计算的进步将使机器人和先进平台能够从以往的交战中学习，适应不断变化的战场条件，并优化其射击方案，以最大限度地减少附带损害。

图 8：火力的未来趋势略微偏向于社交化和广泛性，而明显更偏向于机器人。

诺基亚贝尔实验室核心研究部总裁彼得-维特（Peter Vetter）认为，6G 将为未来的军队提供前所未有的对周围环境的感知能力。这将极有可能连接传感器、可穿戴设备、机器人、有人驾驶和无人驾驶车辆以及使用云计算和边缘计算的物联网（IoT）设备网络，减少传输和处理数据所需的带宽和时间，连接军事物联网。
正在进行的俄乌战争推动了所有四个 “火力 ”连续体的重大技术改进。例如，《福布斯》2023 年的一篇文章强调了乌克兰最近的行动，开发人员在乌克兰制造了自主无人机，能够在没有人类监督的情况下发现和攻击目标。
同样，澳大利亚陆军退役少将、战略家米克-瑞安（Mick Ryan）也表示： “乌克兰战争中出现的自主系统......已经证明了它们在一系列致命和非致命任务中的实用性......我们应该期待在这场战争之后看到进一步的扩散。”
兰德公司在 2023 年的一份报告中讨论了开发三类机器人能力的可能性，这些机器人是根据世界火力论坛的需求量身定制的：炮兵侦察机器人、攻击机器人和炮兵火力机器人。作者指出，炮兵火力机器人的时速可能达到 30 英里/小时，配备 120 毫米火炮和 60 发子弹的自动装弹机，并确保每分钟 15 发子弹的发射速度。

保护

支持 HMT 的保护应用极有可能涉及非常先进的 RAS 和主要的 HOTL 自主性，因为这些应用主要是防御性的，需要更快的响应时间和最少的人工判断。未来的防护极有可能分为实体防护和网络防御防护（见图 9）。物理防护很可能包括机器人团队，由用于观察的空中无人机、用于物理防护的地面机器人和拦截导弹的车辆组成，但也可用作无人机和机器人的动力源。网络领域的防护将可能由协同工作的自主智能网络防御情报体（AICA）组成，它们能够共同探测网络攻击，制定适当的反制措施，并在战术上运行和调整其执行。机器人技术、边缘人工智能、更新的神经形态芯片和同态加密技术的快速发展，可能会推动物理和网络领域的这些进步。

图 9：未来的保护趋势在其余三个连续体中更加社会化和温和。

根据兰德公司 2020 年的一份报告，将人类转移到 “环上 ”和 “环外 ”位置的动机是存在的。主要是在防御系统需要快速应对来袭威胁的情况下，每次交战都需要人类授权可能会减慢系统的运行速度，削弱消除威胁的能力。特别是在对手利用自己的高速人工智能系统的情况下，人在环内的方法有可能在竞争中处于劣势。
北约科技组织研究小组主席科特博士认为，人工智能系统是必要的，因为人类是网络世界中最薄弱的环节。因为人类是网络世界中最薄弱的环节，而人类战士没有必要的技能或时间在本地执行网络防御。在本地进行网络防御所需的技能或时间。
随着 Splunk 和 Microsoft Sentinel 等工具的进一步发展，可以从各种来源中获取日志。随着 Splunk 和 Microsoft Sentinel 等工具的进一步发展，它们可以从各种来源获取日志来管理合规性和威胁。不仅能学习用户模式和识别异常，还能与安全专业人员互动，挫败实时攻击。人工智能技术传感器、应用程序和设备的改进将极有可能促进更精简的作战功能界面，能够快速、准确地传达关键的目标数据，理解并与目标进行互动。目标数据，了解 HMT 操作员并与之互动。

有哪些可能的法律和伦理影响会推动要求或产生限制？从现在到 2040 年，这些影响可能会发生哪些变化？

可能驱动要求或产生限制的法律和道德影响与 “信任 ”息息相关。

根据美国负责任人工智能（RAI）政策，可信度的关键因素包括展示可靠治理的能力。

1.目前，国际上缺乏对人工智能、机器和机器人的标准化管理，从现在到 2035 年，不太可能（31-45%）有可执行的人工智能国际管理标准。美国、欧盟和中国各自都在不同的监管理论中发挥着主导作用，其中大部分理论都以伦理和政策为基础。

2.尽管对手已经证明他们愿意使用致命武器，但道德标准以及对国际人道主义法、武装冲突法和正义战争理论（Jus in bellum）的遵守很可能会限制使用致命武器的倾向。

3.从现在到 2040 年，人们对人工智能系统和 HMT 的信任度很可能会提高，这是因为最近对这一主题的强调，包括需要优先建立具有透明度、可解释性、可审计性和可靠性的系统和团队。

4.一些值得关注的领域是人工智能系统开发和管理方面的信任差距，包括：

信任差距（信任度太低）和自动化偏差（信任度太高）
程序和系统偏差倾向
数据隐私和系统保护（数据中毒）
风险缓解与管理

跨领域人机协作的未来是什么？

未来跨领域人机协作的发展极有可能以三项人机工作为基础。每项工作都是一个独特的研究、开发和投资领域。虽然每项工作都可能有主要的研究重点，但整合是获得超配的关键。

人机协作（HRT）。人机协作概念的核心是人类与机器人之间的合作关系，以及学习和了解人类如何与机器人进行有效互动。这涉及开发人类的技能和能力，以管理和分配任务给一个庞大的机器人团队，以及与它们进行沟通和协作。这一跨学科领域需要系统工程、认知科学和计算机科学等不同学科的投入和专业知识。
人类-人工智能编队（HAIT）。随着团队的发展，采用先进的人工智能形式越来越普遍。人类与人工智能的融合对于有效的战略规划、运营规划和未来活动分析至关重要。这涉及一种不同于人机协作的特殊分析重点。
人力增强（HA）。人类增强是人类与机器之间的一种独特合作形式，在这种合作中，人类与机器作为一个统一的实体发挥作用。其主要目的是通过结合机械、可穿戴和植入技术来提高人类现有的身体和认知能力。这种合作只专注于增强人的能力。

跨领域和 WFF 的优先人机技术重点领域

所有三个人机研究领域在战争的各个领域都大有可为；它们之间的协同作用将大大提高未来部队的杀伤力和可持续性（见图 10）。

图 10：2025-2040 年间各领域和 WFF 的 HMT 预测趋势。

在整个作战职能范围内利用自主系统并确定其优先次序的决定因素可能是什么？

在整个 WFF 范围内利用自主系统并确定其优先次序的可能决定因素是：在技术进步的同时开发必要的使能应用；提供资源以支持最相关的应用；训练有素、随时待命的操作员具备支持有效 HMT 的必要技能；以及在竞争过程中遵守管理和道德标准（见 Mind Meister 图 11）。商业研究与开发将继续推动创新，使其具有适用于整个世界未来战场的军事相关能力。