《多域指挥与控制中人类-人工智能系统的信任和性能》MIT 林肯实验室

摘要

指挥与控制是联合军事行动的核心内容之一，然而，现代安全威胁性质、全球技术民主化以及信息流动速度和范围都对传统的作战范式造成了压力，需要进行根本性的转变，以便更好地在多个物理和虚拟领域进行同步整合和操作。在本文中，我们旨在通过提出三个概念来应对这些挑战，这些概念将指导人类-人工智能综合指挥与控制系统的创建，其灵感来自于商业部门和学术界的最新进展和成功。第一个概念是一个将人工智能能力整合到事业的框架，优化劳动力中的信任和性能。第二个概念是通过对信息抽象、团队合作和风险控制的动态管理，实时创建多组织多领域的任务团队，从而促进多领域的运作。第三种是多级数据安全和多组织数据共享的新范式，这将是未来联合和联盟多域作战的一个关键推动因素。最后，我们提出了一系列建议，以研究、开发和实例化这些指挥与控制能力方面的变革性进展。

关键词--人与人工智能系统，多域指挥与控制，分布式贝叶斯组合分析，信任网络

I. 前言

在联合军事行动中，联合部队指挥官承担的最关键角色之一是指挥和控制（C2），即对指定的部队行使指挥权力，以实现集体目标[1]。在现代军事环境中，C2增强了指挥官做出知情和及时决策的能力，并得到了提供态势感知的分布式信息和通信系统的复杂企业的支持。传统上，通过政策和技术，C2被限制在单个物理领域，如空中、陆地和空间，以及虚拟领域，如网络，导致不同领域的信息整合面临挑战。然而，现代同行和跨国安全威胁的复杂性要求有能力在多个领域进行整合和联合行动，美国政府目前正在调查技术和方法，以实现和加强多领域的C2[2]。

迁移到一个多域的作战结构，在技术、人力、理论和文化方面有许多挑战。现有的武器和信息系统是建立在使用专有数据交换机制的传统硬件和软件上的，抑制了现代化和更广泛的整合。来自各种来源和组织的人类和传感器产生的数据以临时的方式结合在一起，并在多个网络的多个安全级别上进行存储和分隔，往往抑制了多组织的联合信息共享和决策。此外，这些系统几乎没有自动化，操作起来也是人力密集型的，随着人力的固定以及任务范围和责任的增加，这些系统将无法扩展。在自动化和分析系统存在的地方，由于缺乏培训、透明度和衡量的性能（包括真实的和感知的），它们受到了滥用和不良的信任校准。同时，美国政府高级领导层评估说，技术的民主化已经使战场变得平坦，美国未来的战略优势取决于利用人工智能（AI）的能力，如机器学习、计算机视觉和自主系统，并将其与劳动力结合起来，创建共生的人机团队[3]。

在本文中，我们研究了在美国武装部队中实现综合多域作战结构的挑战，并比较和对比了商业部门和学术界的类似既定方法。我们提出三个概念来应对这些挑战。首先，我们开发了一个框架，以帮助人工智能（AI）能力的发展、成熟和扩散到业务中，并将优化员工队伍中的信任和表现的过程制度化。其次，我们探讨了如何通过平衡的信息管理和动态管理的风险，使多域作战得以创建。最后，我们描述了一个多级数据安全和多组织数据共享的新范式，这将是未来联合和联盟多域作战的一个关键推动因素。