推荐！【美海军·系统工程顶点报告】《人工智能使能的实时兵棋推演系统在海军战术行动中的应用》美国海军2022最新128页

2022 年 9 月 24 日 专知

现代战术战争需要迅速而有效的决策和行动，以便在经常是高度动态和复杂的战区保持竞争优势。需要考虑的因素的数量因不确定性、事件的快速发展和人为错误的风险而放大。自动化、人工智能和博弈论方法的潜在应用可以为作战人员提供认知支持。这项研究以自动兵棋推演辅助决策的形式探索了这些应用。该团队为这个未来的系统开发了一个概念设计，并将其称为兵棋推演实时人工智能辅助决策（WRAID）能力。

顶点项目的目标是探索自动化、人工智能和博弈论的应用，作为支持未来WRAID能力的方法。该团队为WRAID能力开发了需求、概念设计和操作概念。该小组确定并探索了可能对未来实施WRAID能力构成障碍的挑战性领域。该小组调查了与使用人工智能来支持战争决策有关的伦理挑战和影响。

本报告首先对与WRAID能力相关的主题进行文献回顾。文献回顾从人工智能的回顾开始，提供了一个关于人工智能如何工作以及它能够完成什么类型任务的概述。文献综述探讨了人机协作的方法，以支持未来指挥官和人类用户与WRAID系统之间的互动。需要翻译指挥官的意图，并让WRAID将有意义的输出传达给指挥官，这需要一个强大的界面。审查包括传统的兵棋推演，以研究目前的模拟兵棋推演是如何进行的，以便深入了解，未来的WRAID能力如何能够实时复制兵棋推演的各个方面，并认为以前的兵棋推演可以为人工智能和机器学习（ML）算法的发展提供训练数据。ML算法的训练需要大量的代表性数据。文献回顾研究了人类的认知负荷，以深入了解人类大脑的认知技能和上限；并确定人类思维的极限，以显示人工智能可能提供的支持。文献综述中涉及的最后一个主题是，传统的计划和决策，以了解目前在军事上如何制定战术行动方案。

该小组进行了需求分析和利益相关者分析，探索WRAID能力如何支持作战人员。该小组在需求分析的基础上为WRAID系统开发了一套需求。这些要求被归类为：硬件/软件，人机界面，和道德规范。第一阶段的分析结果包括 (1)战争的复杂性需要发展一种未来的WRAID能力，这种能力利用自动化方法，包括人工智能、ML和博弈论，(2)WRAID能力需要大量的计算能力和复杂的软件算法，(3)实现未来WRAID系统的挑战将是技术和道德的。

未来WRAID系统的概念设计是基于需求分析的。概念设计被记录在一套系统模型中，包括背景图、系统视图、功能工作流程图和操作视图。该团队开发了一个作战场景，以支持对WRAID能力如何在作战中使用。

在开发WRAID的过程中，预计会有一些路障。开发WRAID系统的技术是存在的，然而，研究小组发现数据挑战、人工智能训练、程序限制和当前系统工程的局限性将是需要解决的障碍。数据挑战指的是获得足够的数据集的能力，这些数据集代表了训练ML算法所需的真实世界的战术行动和兵棋推演分析。程序性挑战包括国防部实施网络安全、机密数据、数据库访问和信息分配协议的能力。系统工程方面的障碍是需要新的方法来设计安全和可靠的人工智能系统，如WRAID能力。将需要SE方法来处理不可预见的故障模式，并在系统生命周期的早期确定根本原因。

对像WRAID能力这样的人工智能系统的伦理考虑是系统发展的一个重要因素。开发系统以取代伦理学，将使系统更有可能被部署。有几个有道德问题的自主武器系统被拉出来作为WRAID能力的道德对话的基础。通过一个示例场景，对道德状况进行定性分析，以了解在部署WRAID能力时可能出现的道德问题。伦理学在未来的技术中发挥着巨大的作用；从一开始就考虑到伦理学，建立技术是很重要的。

未来的重点需要放在继续对想象中的WRAID系统采取正规的系统工程方法。WRAID系统需要一个强大的数据集，需要收集和注释；收集的定性兵棋推演数据越多，WRAID系统的可行性和准确性就越高。与军事部门的合作对于最大化WRAID的利益至关重要，例如情报和侦察组织。WRAID的模拟将是完善系统要求和创建现实模型的关键。关于如何使用WRAID的培训和文档应该同时开发，所以利益相关者，特别是指挥官已经准备好，知道如何使用这个新工具。未来的研究领域包括认知工程、基于正式模型的系统工程和人机协作。

随着目前技术进步的速度和外国的目标，人工智能将在未来的冲突和战争中发挥作用。自上而下的指令将需要设计和实施WRAID能力：提供大量的资源，解决操作和文化变化，重组系统工程，并确保网络安全和收购变化。实现未来的WRAID能力并不是一个微不足道的任务。然而，它对确保现在和未来的战斗空间优势至关重要。