《探索机器队友的潜力》2022最新214页论文，美国海军研究生院

2022 年 10 月 28 日 专知

人工智能已经使用了几十年。它已经被部署在有人驾驶的编队中，并将在未来几年内继续被用于军事。目前的战略和作战概念要求在整个国防企业中增加使用人工智能能力，从高级领导人到战术边缘。不幸的是，人工智能和它们所支持的战士不会 "开箱即用"地兼容。简单地将人工智能植入人类团队并不能确保成功。美国防部必须仔细注意如何将人工智能与人类一起部署。这在团队中尤其如此，因为团队的结构和成员的行为可以决定业绩的好坏。由于人类和机器的工作方式不同，团队的设计应该利用每个伙伴的优势。团队设计应该考虑到机器伙伴的固有优势，并利用它们来弥补人类的弱点。这项研究通过提交新的概念模型，捕捉人类和机器在人机合作结构中运作时的理想团队行为，对知识体系做出了贡献。这些模型可以为人机团队的设计提供信息，从而提高团队的绩效和敏捷性。

图1 智能自主系统技术框架

图3 美国人工智能相关战略

引言

核导弹发射被探测到。那是1960年10月5日，北约正处于最高级别的警戒状态。以99.9%的准确率，来袭的苏联弹道导弹被格陵兰岛的预警系统探测到。值得庆幸的是，北约的报复行动被制止了，操作人员发现，"智能 "系统正在跟踪上升的月亮（Singer，2009）。自然，这并不是唯一一次世界几乎在人工智能（AI）引起的核交换中丧生。1983年9月26日，苏联的彼得罗夫中校发现自己是莫斯科附近Serpukhov15掩体内的值班人员。在太空中运行的苏联Oko预警卫星系统完全肯定地报告说，多枚导弹正在前往莫斯科的路上。问题是，奥科系统把从云顶反射的阳光误认为是美国的一系列导弹发射（Scharre，2018）。解读其系统的局限性，并将事件置于背景中，操作人员能够防止灾难的发生。当然，这些极端案例是少见的，对于今天的人工智能，我们没有那么依赖人类的判断，对吗？不幸的是，不尽然。人类和人工智能（AI）的工作方式不同，所以像美国防部（DOD）这样的组织在将人工智能系统插入操作团队时，需要非常慎重。

B 研究问题、方法和路径

1 研究问题

本研究试图回答以下问题：

成为队友意味着什么？
机器如何在团队中与人类成为伙伴？
将机器伙伴融入以前的人与人之间的团队，如何提高团队的敏捷性？
能否用共享的团队心理模型或互动的团队认知方法更好地理解机器伙伴？

2 方法

将对文献进行详尽的回顾，并对两个适用的案例研究进行分析。这项研究的目标是产生一个人机协作的概念模型，并提供有关人机团队内部沟通的背景性、现实世界的知识。鉴于目前可用的基于实验室的人机协作实验数量有限，本研究将检查数据以确定广泛的主题和模式。

人类团队和人类团队动态的性质已经得到了广泛的研究。这一领域的文献有丰富的发现，可以提供关于人与人团队动态的细节；然而，关于机器融入人与人团队的文章却很少。随着机器伙伴被纳入传统意义上的人类团队，就需要对人机团队进行研究。本研究将首先描述人工智能的特点及其对战争的预期影响。将提供关于机器-机器团队的现有文献分析，然后是人类认知和人-人团队的更多发展主题。这项研究在描述人机团队的通信、协调和互动动态之前，将对人机团队进行特征描述。然后，作者将展示这些动态如何与团队敏捷性和绩效的概念相联系。

3 研究目的

本研究目的是探索人机团队中的沟通、协调和互动动态，并阐述它们对团队敏捷性和绩效的潜在影响。随着人机团队结构在DON中变得越来越普遍，这种探索对于发展对团队动态的理解是必要的。这项研究将产生人机团队的概念模型，可以为未来系统的设计提供参考。这项研究的结果可以帮助美海军军部更好地理解将狭义的人工智能能力整合到团队构建中的影响。这种知识将最终使美国防部能够应用研究结果来提高人机团队的敏捷性。