智能自主系统（IAS）是系统簇（SoS）的一部分，可与其他智能体互动，在复杂环境中完成任务。然而，基于其有限的认知过程，IAS 集成的 SoS 增加了额外的复杂性，特别是共享态势感知（SSA），使团队能够对新任务做出响应。在军事指挥与控制等复杂任务环境中，IAS 缺乏 SSA 会对团队效率产生不利影响。SSA 的补充方法，即 “态势理论”，有助于理解 SoS 的 SSA 与效率之间的关系。本研究阐明了态势理论的概念性讨论，以研究当人类与智能体协同工作时，SoS 的共享态势感知的发展。为了使讨论具有基础，所回顾的研究在 SoS 的背景下扩展了态势理论，并由此产生了三大猜想，这些猜想对未来 SoS 的设计和开发大有裨益。
图 实现共享感知
机器学习算法和人工智能（AI）的进步正在使许多自动化系统变得更加自主（Chiou 和 Lee，2016 年）。这些技术进步的转变之一是自适应智能自主系统（IAS）的发展，作为团队成员，它们可以与其他智能体（即人类或机器）进行互动，以完成共同的目标。在指挥与控制（C2）任务环境中的人机团队（HMT）背景下，IAS 是 “自主与无人系统和人工智能的融合”（海军部 IAS 战略，2021 年）。IAS 使组织能够自动执行以前需要人类监督、能力和支持的各种单项任务。此外，伴随着传感器、舰载处理和人工智能编程复杂性的进步，IAS 的应用范围也在不断扩大。基于这些原因，我们将系统簇（SoS）定义为人类和 IAS（即 HMT）的结合体，在与环境交互的同时为实现共同目标而运行。由人类、机器和连接它们的辅助 C2 系统组成的 SoS 概念与 Maier（1998 年）对 SoS 和通用协作系统的分类区分是一致的。由此带来的 IAS 发展标志着认知过程和性能的有效性和效率的提高，同时减少了人类操作员的脑力和体力工作量（Matthews 等人，2021 年）。
在 C2 行动中引入作为团队成员的 IAS，为有人类操作的行动引入了新的层面。然而，这些新的 HMT 编队也在 SoS 层面引入了不确定性。例如，IAS 和随附的网络化决策支持系统可能会引入大量动态环境因素（如人机通信），或向作为更大 SoS 一部分的人类展示异常行为，从而造成认知超载。此外，人类操作员对 IAS 的行为或输出缺乏了解，同样会产生子系统的不确定性（Canan 等人，2017 年）。这种算法引起的不确定性可能会降低、减缓或阻碍决策过程，从而导致人类团队成员面临更高的风险，进而影响任务的执行。目前，HMT 领域的人工智能研究探讨了系统（即团队）层面，特别是 SoS 层面的团队认知过程和性能，包括交互（Klien 等人，2004 年）、信任（Bindewald 等人，2018 年）和决策（Kase 等人，2022 年）。然而，在人类-智能辅助系统团队的背景下，还需要进行更多的深入研究，特别是在团队态势感知（TSA）的角度上进行研究，以便对这些系统进行适当的工程设计。
一般来说，TSA 被定义为“......每个团队成员都有一套自己关注的特定 SA 要素，这是由每个成员在团队中的职责决定的”（Endsley，1995 年，第 38-39 页）。后来，Gorman 等人（2012 年）扩展了 Endsley 的 TSA 观点，大力强调团队沟通和协调的时空方面（即在正确的时间、正确的地点向正确的团队成员发送信息）。然而，在发送信息之前，还必须在 TSA 概念内考虑最初的决策过程，尤其是在复杂领域。为了填补这一空白，本研究旨在通过专门阐述 TSA 的 SoS 层面，了解团队层面认知过程的动态变化，包括沟通、协调和决策。此外，TSA 与共享情境意识（SSA）有更广泛的联系。研究人员在 HMT 研究中交替使用 SSA 和 TSA（Ososky 等人，2012 年；Schaefer 等人，2017 年；Wildman 等人，2014 年）。因此，我们在本文的其余部分使用 SSA。
为了更好地理解这一现象，本研究首先对 IAS 进行了定义。接下来，我们研究态势感知和心理模型。然后，我们引入态势理论，探讨 IAS 如何与现实领域视角（RDP）相匹配，从而更好地理解 IAS 和人类之间的 SSA。最后，通过开发一种扩展的态势理论方法，在 SoS 层面上理解人类与 IAS 之间的 SSA，我们概述了开发和设计人类与 IAS 之间的 SSA 所面临的重大挑战。在最后的分析中，我们证明了智能体系统缺乏必要的多样性、反事实推理能力和算法反馈环路，因此无法与人类智能体产生 SSA。我们对这些 SoS 工程挑战进行了讨论和总结。
原文
相关内容
微信扫码咨询专知VIP会员