美国国家科学、工程和数学研究院为空军研究实验室编写了一份共识报告,其中记录了各军种对支持人-人工智能(Al)团队合作的普遍和日益增长的愿望。Sonalysts 已经开始了一项内部计划,探索人类-人工智能团队的培训。这项工作的第一步是开发一个能够促进人-人工智能团队研究的合成任务环境(STE)。决定将 "联合全域指挥与控制"(Joint Al-Domain Command and Control,JADC2)作为开发 STE 的重点,因为 JADC2 概念中的大量传感器输入和决策选项可能需要使用辅助系统才能及时做出决策。有鉴于此,我们聘请了多位具有指挥与控制经验的主题专家(SMEs),以深入了解如何开发能体现与 JADC2 相关的团队挑战的 STE。本报告记录了我们与这些利益相关方的初步接触。我们制作了一份包含两类问题的调查问卷。第一类问题要求受访者报告他们是否同意我们预计在以 JADC2 为重点的测试平台中可能非常重要的 STE 功能。第二类问题要求主题专家回答开放式问题,探讨任务域、性能评估方法、通信方法和自主队友的特征等测试平台特征。研究小组确定了 13 名具有军事背景和指挥与控制经验的 Sonalysts 员工(内部称其为合作伙伴),并邀请他们参与调查。12 名受访者完成了调查。然后,研究小组对他们的回答进行了分析,以确定出现的主题和需要进一步分析的话题。结果表明,我们的主题专家可以接受使用与军事环境中类似的任务进行研究,只要这些任务要求团队处理大量数据以做出复杂决策。主题专家认为,测试平台应支持代表矩阵式组织的 "体系团队",并应支持口语、基于文本和面对面通信的强大阵列。

背景

2021 年,美国空军研究实验室(AFRL)人类性能单元(Human Performance Wing)要求美国国家科学、工程和医学院(NASEM)编写一份共识报告,以审查人工智能(Al)的军事作用,特别是作为人机团队的一部分。这项工作的目标是使美国空军后勤部能够更好地支持未来系统的设计,在这些系统中,人类与智能体联手实现任务目标。

NASEM报告在更广泛的人机协作领域确定了九个重点领域:

1.训练人机团队

2 人工智能的透明度和可解释性

3 人机团队互动

4 信任人工智能队友

5 人-AI团队合作过程与成效

6 人机协作方法与模式

7 人-AI团队中的态势感知

8 人类-人工智能团队中偏见的识别与缓解

9 人机系统集成流程与人机团队协作和绩效的衡量标准

Sonalysts 已开始在内部探索人-AI团队中的第一个领域--人AI团队培训。表 1 转载了 NASEM 报告的部分内容,其中作者将六项研究需求分为三个阶段。

研究计划的第一步是开发合成任务环境 (STE),为人机团队提供一个经过验证的研究环境。为了提出一套能够最大限度地提高我们的研究适用性的要求,Sonalysts 正在与该领域的主要搜索人员和分部门专家(SMEs)进行接触。本报告总结了与军方 SME 进行的首次外联工作的结果。

概述

虽然各军种多层次都对人机协同感兴趣,但新出现的联合全域指挥与控制(ADC2)概念提供了一个聚焦视角。JADC2 概念设想将所有军种和所有领域(如空中、海上、陆地、太空、网络空间)的传感器连接成一个庞大的网络,以便快速使用这些军种和领域的资产来实现任务效果。为了加快行动速度,同时考虑更多的数据和潜在行动方案(COA),人类决策者很可能要比过去更广泛地与 AI 队友合作。此外,我们认为这将是真正的 "团队合作"。我们的研究将假定,智能体最终将能够作为同伴/队友而不仅仅是工具与人类合作。为了实现这一目标,我们设想人类-AI团队将包括使用AI或类似技术在指定领域内做出决策和/或采取行动的自主系统,这些系统将能够应对新的性能挑战,同时与队友协调和合作。当达到这些里程碑时,我们就可以开始将该系统视为自主队友,它不仅能够独立行动,还能相互依赖。

成为VIP会员查看完整内容
38

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《人机协作测试与评估指标表征》117页
专知会员服务
44+阅读 · 2月3日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
31+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2009年12月31日
国家自然科学基金
44+阅读 · 2009年12月31日
Arxiv
140+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
343+阅读 · 2023年3月31日
Arxiv
18+阅读 · 2023年3月17日
VIP会员
相关VIP内容
《人机协作测试与评估指标表征》117页
专知会员服务
44+阅读 · 2月3日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
31+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2009年12月31日
国家自然科学基金
44+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员