《巡飞弹与不可预测性：武器系统的自主性及对人类控制的挑战》73页

巡飞弹——这种可消耗的无人机能够整合基于传感器的分析，在目标上空盘旋、探测并冲向目标自毁——已成为现代战场上日益突出的特点。现有研究探讨了这些技术是否正在改变现代战争的性质、巡飞弹的扩散如何影响地区（及全球）安全动态，以及这对世界各国军队的力量结构可能意味着什么。基于早前对防空系统的研究，本报告有不同的侧重点。它在关于自主武器系统的辩论背景下，审视了全球范围内巡飞弹的获取与列装。更具体地说，它利用可获得的公开资料，调查了自20世纪80年代以来，作为全球巡飞弹开发、测试和使用一部分的自主与自动化技术的应用，是否影响了关于武力使用的人类控制的新兴标准。

大多数现有的巡飞弹被宣传为遵循“人在回路”原则进行操作。这些平台的操作者被描述为需要：授权攻击系统指定的目标，通过双向数据链和远程地面控制站监控平台运行，并保留“中止/放弃”能力，以便在战场条件变化时停止攻击。由于是由人而非传感器输入来负责武力的释放，此类系统不能简单地归类为自主武器系统。这使得许多巡飞弹有别于早期以色列航空工业公司的“哈比”系统，后者旨在执行压制敌方防空作战，常被描述为一种自主武器系统。

尽管如此，全球获取和操作巡飞弹的实践，清晰地突显了武器系统目标锁定功能自主性日益增强的趋势，以及这如何影响人类对武力使用的控制。自动化或自主技术在巡飞弹中的集成，已经对人类在特定目标锁定决策中所行使控制的质量和形式造成了实际挑战并开创了先例。特别是，这一过程似乎已经降低了人类行为者在特定目标锁定决策中对某些武器所能行使的控制质量和态势判断力。某些类型的巡飞弹作为地理和时间范围日益扩展的机动平台，所使用的基于传感器的目标锁定，似乎导致了武力在何时、何地、针对谁使用时更大的不可预测性。这可能使得人类对特定目标锁定决策的控制变得更具象征性而非实质性。这也引发了与遵守各种法律和伦理规范相关的问题。

贯穿本报告，强调了三个主要的关切领域：

• (1) 关于武力何时何地被使用，以及人类行为者如何对特定目标锁定决策施加控制的更大不确定性（即人类控制的态势和决策维度）；

• (2) 将巡飞弹用作杀伤人员武器并在人口稠密区使用；

• (3) 对巡飞弹列装可能带来的不可预测、无差别和大面积效应缺乏关注。

这些研究发现基于两个分析来源：首先，是一份新的公开目录，详细介绍了全球范围内24种不同巡飞弹中自动化与自主功能的集成情况，这些巡飞弹已被至少16个国家获取。这包括来自与这些技术发展密切相关的国家的公司开发的巡飞弹，也包括来自其他国家的制造商开发的产品。同样，目录也包含因在近期冲突中使用而闻名国际的平台，其中一些可能已为读者所熟悉。其次，提供了深入的案例研究，详细说明了巡飞弹在最近三场冲突中的使用情况。这些案例研究使能够探索不同冲突方操作巡飞弹的不同地点和模式。它们也使能够引出与当前巡飞弹使用实践相关的三个主要关切领域。

作为创建新保障措施的起点，为参与自主武器系统国际辩论的各行为体以及开发和使用巡飞弹的国家提出了一系列建议。这些建议基于总体评估，即迫切需要在一项具有法律约束力的国际条约中规范包括巡飞弹在内的武器中自动化和自主目标锁定的集成。本文建议与红十字国际委员会提出的建议有重叠之处。

对将巡飞弹作为一种自主武器使用实践的分析，尤其突显了红十字国际委员会所识别的军事发展的潜在未来趋势。公开来源分析也强烈指出了数据限制，这对理解操作巡飞弹时所行使的人类控制的确切质量具有根本性影响。

基于发现，敦促制定并通过关于武器系统（包括巡飞弹类别）自主性的具有法律约束力的国际规则。建议：

• 重申、保留并加强当前在使用巡飞弹及其他集成自动化、自主和人工智能技术的武器时，对特定目标锁定决策进行实时、直接人类评估与控制的标准，将其作为确保遵守法律和伦理规范的防火墙。

• 对能够使用自动化、自主和人工智能技术识别、选择、跟踪和实施武力的武器建立控制，限制其运行持续时间和地理区域。

• 禁止将机器学习及其他形式的不可预测人工智能算法集成到巡飞弹的目标锁定功能中，因为这可能从根本上改变特定目标锁定决策及其结果的可预测性、可解释性和可问责性。

• 对能够使用自动化、自主和人工智能技术识别、选择、跟踪和攻击目标的武器建立控制，规定其可运行的环境类型。作为自主武器系统运行的巡飞弹不应在人口稠密地区使用。

• 禁止将使用自动化、自主和人工智能技术进行目标锁定的传感器武器用于某些目标类型。这应包括禁止在武器系统中设计、测试和使用旨在“以人类为目标”的自主性，并限制此类武器“仅用于本质上属于军事目标的物体”。

• 在发布与操作巡飞弹时在特定目标锁定决策中所行使的人类控制质量相关的技术细节方面，应更加公开透明。