《巡飞弹药和不可预测性：武器系统的自主性和人类控制面临的挑战》最新72页报告

巡飞弹药--能够整合基于传感器的分析，在目标上空盘旋、探测并爆炸的消耗性无人驾驶飞机--是现代战场上一个日益突出的特征。现有研究探讨了这些技术是否正在改变当代战争的特点，巡飞弹药的扩散如何影响地区（和全球）安全动态，以及这对世界各国军队的兵力结构可能意味着什么。本报告以早先对防空系统的研究为基础，重点有所不同。它结合有关自主武器系统（AWS）的讨论，研究了全球巡飞弹药的获取和部署情况。更具体地说，本报告利用现有的公开资料，调查自 20 世纪 80 年代以来，在全球巡飞弹药的开发、测试和使用过程中使用自主和自动化技术是否影响了人类控制武力使用的新标准。

大多数现有的巡飞弹药都被宣传为按照 “人在环内”的原则操作。这些平台的操作人员被要求授权对系统指定的目标进行打击，通过双向数据链路和远程地面控制站监控平台的运行，并保留 “中止/波断 ”能力，以便在战场条件发生变化时停止打击。由于是人而不是传感器的输入负责释放力量，因此这类系统不能简单地归类为自主武器系统。这使许多巡飞弹药有别于早期的以色列航空航天工业公司（IAI）的 “哈比 ”系统，后者旨在执行压制敌方防空行动，通常被称为自主武器系统。

尽管如此，全球获取和操作巡飞弹药的实践清楚地凸显了武器系统瞄准功能日益自主化的趋势，以及这如何影响人类对武力使用的控制。自动或自主技术在巡飞弹药中的集成，对人类对具体目标选择决策的控制质量和形式提出了实际挑战，并开创了先例。特别是，这一过程似乎已经降低了智能体在具体目标选择决策中对某些武器所能行使的控制和态势判断的质量。某些类型的巡飞弹药作为移动平台，其地理和时间范围不断扩大，其所使用的基于传感器的瞄准似乎已在何时何地对何人使用武力方面造成了更大的不可预测性。这可能会使人类对具体目标选择决策的控制更有名无实。这也提出了与遵守各种法律和道德规范有关的问题。

本报告通篇强调了三个主要关切领域：

(1) 在何时何地使用武力以及智能体如何控制具体的目标选择决策（即人为控制的情境和决策层面）方面存在更大的不确定性；
(2) 将巡飞弹药用作杀伤人员武器和在居民区使用；
(3) 忽视与巡飞弹药实战相关的潜在不可预测、滥杀滥伤和大面积影响。

这些研究成果基于两方面的分析：首先是一份新的开放源码目录，详细介绍了全球范围内至少有16个国家采购的24种不同巡飞弹药中自动和自主功能的集成情况。其中包括（历史上）与这些技术的发展密切相关的国家（如以色列、俄罗斯、美国、土耳其）的公司开发的巡飞弹药，以及澳大利亚、波兰、台湾和英国等国的其他制造商开发的巡飞弹药。同样，目录中还包括在近期冲突中使用的国际知名平台，其中一些可能已经为读者所熟悉。其中包括 AeroVironment Switchblade 300、IAI Harpy 和 STM Kargu-2 等。与早先对防空系统的研究一样，在可能的范围内，本目录的目的也是为了扩展国际上关于现有武器系统的自主性如何改变人类控制瞄准决策的社会规范的讨论。本目录通过记录这些系统中自动和自主技术的使用情况，而不是详细介绍现有研究中已列出的技术设计特点。

其次，提供了深入的案例研究，详细介绍了巡飞弹药在最近三场冲突中的使用情况：利比亚内战（2014-2020 年）、2020 年纳戈尔诺-卡拉巴赫战争和乌克兰战争（2022-）。通过这些案例研究，可以探索一系列冲突方使用巡飞弹药的不同地点和模式。这些研究还使能够得出对目前使用巡飞弹药做法的三个主要关切领域：人类控制的态势和决策方面存在更大的不确定性；将这些系统用作杀伤人员武器和在人口密集地区使用；以及潜在的滥杀滥伤和大面积影响。

作为制定新的保障措施的起点，不仅要保护而且要改进人类对具体目标选择决策的控制质量和形式，向参与有关自主武器系统国际辩论的各方以及开发和使用巡飞弹药的国家提出了一系列建议。这些建议的基础是总体评估，即显然迫切需要在一项具有法律约束力的国际条约中对武器中的自动和自主瞄准，包括巡飞弹药中的自动和自主瞄准进行规范。建议与红十字国际委员会（红十字委员会）提出的建议有重叠之处。

特别是，对将巡飞弹药作为一种自主武器使用的做法进行的分析强调了红十字国际委员会所确定的军事发展的潜在未来趋势：随着时间的推移，巡飞弹药似乎已被用于瞄准人类和更多种类的军事目标；这些系统是移动的，而不是固定在原地；而且它们已被 “用于平民面临风险最大的城市”。

公开资料分析还有力地证明了数据的局限性，这从根本上影响了对操作巡飞弹药时人为控制的精确质量的理解。除其他外，这凸显了在这一领域提高透明度的必要性。

根据研究结果，本文敦促各国制定并通过具有法律约束力的武器系统自主性国际规则，将巡飞弹药作为其中的一个类别。建议各国 - 在使用巡飞弹药和其他集成了自动化、自主化和人工智能技术的武器时，确认、保留并加强目前由人类对具体目标选择决定进行实时、直接评估和控制的标准，作为确保遵守法律和道德规范的防火墙。

对可使用自动、自主和人工智能技术识别、选择、跟踪和使用武力的巡飞弹药等武器的作战时间和地理区域进行控制。
禁止将机器学习和其他形式的不可预测人工智能算法整合到巡飞弹药的瞄准功能中，因为这可能从根本上改变具体瞄准决策及其结果的可预测性、可解释性和问责制。
对可使用自动、自主和人工智能技术识别、选择、跟踪和对目标施力的基于传感器的武器（如巡飞弹药）的运行环境类型进行控制。作为自主武器系统发挥作用的巡飞弹药不应在人口密集地区使用。
禁止对使用自动、自主和人工智能技术进行瞄准的传感武器使用某些目标配置文件。这应包括禁止在包括巡飞弹药在内的武器系统中设计、测试和使用自主 “以人为目标”，并将此类武器的使用限制在 “本质上属于军事目标的物体”。
更积极地公布技术细节，说明在具体瞄准决定中操作巡飞弹药时人为控制的质量。这应包括酌情分享有关巡飞弹药操作人员所受训练的程度和特点的详细资料。