《致命自主武器系统和人工智能：趋势、挑战和政策》麻省理工学院2022最新论文

亮点

• 自主武器正在迅速扩散：在可及性、自主程度、国际开发者的范围，以及它们在情报、侦察和致命打击中的战术作用。

• 自主系统仍然非常容易出错，显示出较差的稳健性、可解释性和对抗性。

• 主要的军事大国对条约提案投了弃权票，而其他国家和人道主义组织则迫切要求进行监管。

• 国际和美国的政策仍然模糊不清，缺乏现实的问责和执行机制。

摘要

本文调查了全球社会在致命武器系统自主性扩散方面所面临的关键技术、人道主义和政治挑战。本文的讨论涉及具有不同类型自主性的武器系统，特别是致命性自主武器系统（LAWS）。"这些武器系统包括武装无人机、车辆、潜水器、哨兵炮塔、导弹系统和其他人工智能（AI）的动态应用。本报告旨在总结来自公共领域的主要发展，没有秘密信息。

我们首先讨论了致命性自主武器系统的状况，包括总体趋势、致命性自主武器系统的时间表、自主程度、致命性自主武器系统中使用的一些技术的双重用途、国际政治立场，以及可获得性、可解释性、问责制和执行所带来的挑战。接下来，我们将讨论致命性自主武器系统的自主能力和情报方面的最新文献，然后从美国国内和国际的角度讨论自主武器政策。

全球趋势

近年来，硬件方面的技术进步，从电子光学、红外和声纳系统到合成孔径雷达，以及人工智能/机器人方面的技术进步，从更好的三维和视觉感知到运动预测和规划，使得自主系统得以迅速发展[2]。技术进步推动了成本的降低、更多的可及性、更少的人为错误和更快的反应时间；这扩大了情报、监视和侦察（ISR）、导航、探测等方面的使用机会。人工智能设备为无人车提供了更大的速度和在不需要数据链接的环境中运行的能力，例如在水下或靠近对手的干扰装置，增加了超越敌方系统的机会[3]。最近的趋势是有更多的国家参与积极的致命性自主武器系统的开发，包括越来越多的进攻性应用，定位为城市冲突而不是战场，以及蜂群能力。此外，无人驾驶飞行器（UAVs）的能力在其部署时间、行动的地理区域、可识别物体的范围和相互协调的能力方面都在扩大[2]。

国际辩论也相应地加强。国家通过联合国，以及公民个人通过国际倡导团体，施加越来越大的压力，要求制定具有法律约束力的国际条约来规范此类武器；然而，包括美国在内的最大的军事行为体却一再回避任何此类承诺。因此，具有越来越多自主功能的各种致命性自主武器的技术进步和军事采用继续向前发展。

致命武器系统的时间轴和实例。几十年来，致命性自主武器系统一直在不断发展。在之前的几十年里，半自动地面环境（SAGE）防空系统搜索敌机，军舰采用近程武器系统（CIWS）来自动探测、跟踪和消除来袭导弹[4, 5]。也许人类干预自动化战争的最著名的例子是1983年由自动目标探测引发的苏联核假警报事件。当预警卫星错误地将高空云层识别为来自美国的洲际弹道导弹时，苏联防空部队中校Stanislov Petrov选择不援引苏联的强制核反击政策。

20世纪80年代，第三代反坦克制导武器（ATGWs）的制造和发展，这种武器被设计成向上发射到空中，并将利用红外线独立获取目标。欧洲的PARS 3 LR[6]和以色列的Spike[7]ATGWs是这种类型的归航导弹的例子。美国和其他国家在2022年送给乌克兰军队的现代 "标枪 "反坦克武器，包含了一个称为电子安全武装和发射（ESAF）的控制系统，在发射后将导弹引向目标[8]。

美国在自主武器领域一直是一个突出的创新者，在1970年代首次生产了名为Phalanx CWIS的目标跟踪和获取装置[9]。在21世纪初，美国爱国者导弹计算机在两个不同的场合错误地识别了友军战机，这导致了友军开火和死亡[10]。有缺陷的程序没有适当考虑到自动化错误。在过去的十年中，韩国和以色列已经建造了能够完全自主地识别并向人类开火的哨兵枪[10]。

近年来，俄罗斯和以色列也开发了具有自主导航和瞄准能力的无人水面飞行器（USV），中国也开发了一种自主直升机[5, 11]。致命的无人机系统和游荡弹药的出现也许是最危险的致命性武器系统，现在已经广泛发展，而且相对便宜和容易获得[11]。以前用于侦察，这些航空系统被设计为自主巡逻区域，搜索敌方雷达、飞机或人员，并对其进行拦截，通常带有内置弹头。众多的例子见表一。

2021年3月8日，利比亚问题专家小组向联合国安全理事会提交了联合国信函[S/2021/229][12]。根据该报告，2020年3月27日，哈利法-哈夫塔尔的部队至少受到了一枚卡尔古-2型致命性武器的攻击，记录了第一起可能完全自主的致命性自主武器的开火和遗忘的使用。由于难以确认像这样的武器是否真的自主行动，可能还有类似的攻击，但公众并不知道。

俄罗斯在2022年入侵乌克兰时，广泛使用了TB2（表一）和标枪反坦克武器。目前还不清楚TB2的自主起飞和巡航功能是否对战争起到了作用，但标枪导弹的 "发射-遗忘 "能力使小型反击部队能够快速打击并远距离撤退[13]。

两用技术。参考文献[14]描述了人工智能的 "两用困境"：同样的技术既能提供关键的民用，也能提供军事应用。自动驾驶汽车用来避开行人的同样的视觉感知、人体识别和跟踪工具，很容易被重新用于寻找和引爆军事目标。

自主系统扩展了许多积极的好处，从清除地雷、供应有争议的领土、识别和保护非战斗人员，以及限制附带损害。这些应用很少需要自动瞄准或发射。DART，动态分析和重新规划工具，在沙漠风暴行动中使用人工智能来优化后勤和调度，据说已经抵消了之前30年DARPA对人工智能研究的所有资金支出[15]。再加上开放源码的人工智能工具和技术越来越容易获得，区分有害和有益的应用可能比核、化学或生物武器更具挑战性。