《在军事人机协同中设计人类控制》2023最新报告

本章从军事人机协同（HMT）的角度出发，提出了分析、设计和评估国防技术的有意义人机控制（MHC）的方法。方法基于三个原则。首先，MHC 应被视为指导分析、设计和评估所有阶段的核心目标。其次，MHC 影响社会技术系统的所有部分，包括人类、机器、人工智能、交互和环境。最后，移动健康中心应被视为一种跨越较长时期的属性，既包括事先控制，也包括多方参与者的实时控制。为了描述实现 MHC 的宏观设计方案，我们提出了各种团队设计模式。此外，还介绍了一个案例研究，在该案例研究中，将其中一些方法应用于设想 HMT，让机器人和士兵参与到军事背景下的搜救任务中。

人类控制的高级设计框架

在前面的章节中，我们已经论证了多器官功能障碍是一种动态的复杂属性，它具有社会技术、道德和时间维度。因此，设计 MHC 也是一个复杂的过程，不能用简单的清单或瀑布式设计方法来体现。要在一个智能体团队中实现并保持 MHC，需要在系统的分析、设计和评估等迭代阶段进行仔细考虑。一些相关的考虑因素如下图所示。

图 1：HMT 中 MHC 的高级设计框架。