《致命自主武器系统的任务式指挥原则》57页报告

本专著探讨了任务式指挥的七项原则及其在致命自主武器系统中的应用。机器人和人工智能等创新技术正在迅速重塑社会规范。直到最近几年，美军开始认真考虑自主技术在战场上的影响。在政治和军事领导人应对这个新的战争时代时，有关人类和机器在战争中的作用的新问题正等待着他们。尽管有关自主系统的知识刚刚起步，经验也很有限，但有一个经过实战检验、非常适合解决模糊问题的既定框架，即任务式指挥原则。任务式指挥原则是使用致命自主武器的明智方法。这七项原则就像一只稳定的指导之手，帮助军事指挥官应对纷繁复杂的战争。更重要的是，这些原则确保指挥官是最终的决策者，而人与信任则是任务式指挥的重点。在新的战争时代，信任的重要性不容低估。信任能确保军事行动的凝聚力和统一性。了解自主武器系统中的人机信任关系，对于释放人机单元的竞争优势以及维护美国的国家安全利益至关重要。

图 3. 未来 LAWS 的场景。

今天，冲突特征也许比以往任何时候都更加明显。混合战争、网络攻击和非国家行为体不断使作战空间变得更加不确定、动态和模糊。高超音速武器、人工智能（AI）和自主系统（AS）等革命性技术进一步增加了这种复杂性。商业和军事工业对创新技术的空前依赖似乎是战争特征不断变化的催化剂，也可能是战争性质不断变化的催化剂。前国防部长吉姆-马蒂斯（Jim Mattis）在谈到人工智能与战争这一话题时说："我肯定会质疑我最初提出的基本性质不会改变的前提。你现在必须质疑这一点。” 当政治和军事领导人在几乎没有先例的情况下小心翼翼或鲁莽地跳入这个新的战争时代时，有关人类和机器在战争中的作用的新问题正等待着他们。

2014 年，前美国防部副部长罗伯特-沃克（Robert Work）和他的同事发表了一份报告，解释了未来战争的模样。他们认为，未来战争将主要由机器人技术（如无人驾驶和自主武器）来进行。推动机器人时代到来的主要动力是商业公司的创新，而不是由政府研发项目资助的军工综合体。虽然这些新技术惠及医疗保健和金融等众多民用行业，但军方和恐怖组织对它们的依赖也与日俱增。2019 年 9 月对沙特阿拉伯能源基础设施的袭击就是一个例子，恐怖分子轻而易举地改装了少量无人机，破坏了该国一半的石油和天然气生产。此外，在过去十年中，出动军用无人机的主权国家有 95 个，增加了 58%。

从商业角度来看，机器人和自主技术市场也有了显著增长。例如，在过去六年中，工业机器人的销售量每年都在增长，导致全球机器人的存量超过 240 万台。此外，2018 年有 1630 万台服务机器人用于家庭用途，比上一年增长了 59%。另一个能说明自主技术发展趋势的例子是自动驾驶汽车。自动驾驶汽车在商业和军事上都大有可为。改装了先进传感器套件的车辆有可能不再需要人工操作，或通过提高驾驶员的态势感知能力来减少人为错误。车辆自动化或智能机器人技术的基础技术是人工智能。

美国军方利用人工智能通过致命和非致命应用加强国家安全。人工智能的一个非致命性应用是一套名为 “Project Maven ”的软件。Project Maven 是国防部的一项人工智能应用，它研究遥控飞机的图像和视频资料，目的是改进无人机打击。人工智能的致命应用，也称为致命自主武器系统（LAWS），不仅在美国军方，而且在世界各地的军队中都有应用。本专著将 LAWS 定义为一种武器系统，一旦启动，无需人类操作员的进一步干预即可选择并攻击目标。

致命性自主武器系统的例子包括以色列国防军的 HARPY 导弹。HARPY 是一种游荡弹药，旨在有选择地攻击敌方防空系统。同样，美国空军最近也投入使用了首枚自主巡航导弹--远程反舰导弹（LRASM）。LRASM 设计独特，可根据敌方战舰的图像识别、红外、雷达和其他传感器特征，自主探测并攻击敌方战舰。

美国国防部（DoD）将人工智能定义为机器执行通常需要人类智能的任务的能力，无论是以数字方式还是作为自主物理系统背后的智能软件。从本质上讲，人工智能是一种融合系统，它能处理数据以识别模式、学习、建议行动方案或指导行动。

随着自主武器的开发和使用日益突出，有关其道德使用和可信度的问题也将浮出水面。朱莉娅-麦克唐纳（Julia Macdonald）和雅克琳-施耐德（Jacquelyn Schneider）进行的一项调查表明，目前无人驾驶飞行器在信任方面存在障碍。他们的调查显示，联合终端攻击控制员（JTAC）和联合火力观察员（JFO）认为无人机 “比有人驾驶飞机风险更大，更不值得信任”。此外，他们还得出结论，在 “人类与敌人直接接触的领域，部队不愿意将决策权交给机器”。不过，他们的有限调查确实显示，当JTAC和JFO对无人驾驶飞机有更多经验时，他们更倾向于使用无人驾驶飞机。这一发现表明，经验可能有助于解决控制人员对无人驾驶飞机的一些信任问题。

前面的例子说明了国防部的采购和开发企业在开发致命性自主武器系统时遇到的诸多挑战之一。军方开发的新武器系统需要经过广泛的测试和政策审查。在某些情况下，这一过程需要多年才能完成。然而，这一深思熟虑而又务实的过程的总体目标是研制出能力强大的武器，让军事指挥官能够在战场上放心使用。致命性自主武器系统是独一无二的，因为它挑战了这种传统的武器采购和部署模式。使致命性自主武器系统研制工作更加复杂的是国防部第 3000.09 号指令。该指令规定，指挥官和操作人员必须对武力的使用做出适当程度的人为判断。什么是 “适当程度的判断”，指令中没有明确定义。此外，在当前的作战环境中，对手的重点是争夺、拒绝和削弱通信系统，因此对适当控制的理解就更加模糊不清了。

人工智能技术的普及及其在民用和军事领域的广泛发展表明，战争的性质正在发生变化。美国的核心政治和军事战略文件《国家安全战略》（NSS）和《国防战略》（NDS）认识到了这些技术的重要性，它们指示美国优先考虑并保持在新兴技术领域的竞争优势。更具体地说，它们要求发展人工和自主技术。在未来的冲突中，这些新兴技术很可能会超越人类的理解能力。罗伯特-拉蒂夫（Robert Latiff）写道，时间将更加宝贵，战斗的速度将给决策带来压力。考虑到未来战争的这一背景，军方应期待军事主动权的钟摆逐渐从军事指挥官手中摆开，向智能体游走。要想在人工智能主导的战斗空间中做好准备并取得成功，指挥官需要将任务指挥的一些原则扩展到致命性自主武器系统。