机器人和自主系统(RAS)是一个不断发展的军事产业。虽然军方对RAS的兴趣已经存在了几十年,但这种系统在实验和地面行动中的使用和应用是相对较新的,而且在不断增长。这也是荷兰武装部队的情况。2018年,荷兰皇家陆军建立了一个实验单元来探索RAS,即所谓的战争的第四次进化。与这个单元一起,荷兰陆军开始了实地实验和正在进行的研究,涵盖了关于RAS军事用途的广泛的基本主题。这篇文章是对这项研究的总结,进行了两年时间。本文简要讨论了军事应用、自主性的含义、伦理和法律方面的考虑,以及陆军内部需要采取不同的方法来跟上技术革新的步伐。随后,本文描述了荷兰武装部队安排其概念开发与实验(CD&E)计划的方式,以及鉴于快速创新的需要和大型组织内官僚主义的现实,它所遇到的摩擦。最后,本文对实地实验的第一批发现和结论进行了反思。
图 1 操作员和 MIS。操作员使用(数字)集成在平台上的遥控武器站。立陶宛国防部,2022 年。
机器人和自主系统(RAS)在军事方面提供了大量的、重要的和意义深远的机会。为了观察这些系统在这种情况下的适用方式并评估其效用,需要解决一些定义和概念:
自主性。人类授予一个系统执行特定任务的独立程度。它是自我管理的条件或质量,以实现基于系统的情景意识(综合感应、感知、分析)、计划和决策的指定任务。自治指的是自动化的一个范围,其中独立决策可以为特定的任务、风险水平和人机合作的程度量身定做。自主程度可以从远程控制(非自主)操作员协助、部分自动化、有条件的自动化、高度自动化或完全自动化。
机器人。能够通过人类直接控制、计算机控制或两者兼而有之的方式执行一套动作的动力机器。它至少由一个平台、软件和一个电源组成。
机器人和自主系统(RAS)。RAS是学术界、科技界(S&T)公认的术语,强调这些系统的物理(机器人)和认知(自主)方面。RAS是一个框架,用于描述同时具有机器人元素和自主元素的系统。值得注意的是,RAS的每个连续部分都涵盖了一个广泛的范围。系统 "部分指的是广泛的(军事)应用领域中的各种物理系统。在计算机或网络上运行的自动化软件系统,包括 "机器人",即可以在没有人类干预的情况下执行命令的软件片断,不符合RAS的要求,因为它们缺乏物理组件。机器人 "部分,指的是系统的物理布局,认为该系统是无人驾驶或无人居住的。所有其他物理方面(大小、形式、是否飞行、漂浮或滚动等)都是开放的。
致命自主武器系统(LAWS)。一种无需人类干预的武器,在人类决定部署该武器后,选择并攻击符合某些预定标准的目标,因为一旦发动攻击,人类无法阻止。
生命周期。生命周期的概念包括系统的各个阶段,从设计到制造、测试、运行中的使用和退役。每个阶段的责任以及自动化系统的各个方面都有所不同。总而言之,在法律和道德范围内,自动化(军事和或双重用途)组件的生命周期得到良好管理的总体责任在于订购系统的国防组织。在这样做的时候,其采购规格应包含这些内容。各个(子)系统的生产商要对其部件的运作负责。
图2 一个系统的生命周期
"杀手机器人 "的言论使公众对军事背景下的机器人和自主系统的看法变得狭隘,只认为是高度或完全自主的系统对武力的致命使用。实际上,RAS可以应用于许多军事功能和任务,每种功能都有不同程度的自主性(见图1)。机器人和自主系统的广泛军事适用性产生了许多巨大的机会。未来几年的挑战是如何充分利用这些机会,发挥军事优势的潜力,同时减轻所带来的风险。
图 3 RAS在军事中的应用领域
为了衡量RAS对军队的附加值,有必要确定这些系统能够(或不能)积极促进军事组织能力的不同方式。这可以防止为创新而创新,并将RAS的发展定位在其产生切实的、可感知的结果的潜力上。为了确定RAS的军事用途,我们提出以下标准(见图2):
图 4 RAS评估矩阵
1.在部署RAS的军事任务中实现预期效果或目标的有效性。
2.使用资源的效率。理想情况下,系统的生命周期成本(初始投资、维护、升级等)以及运行成本(如燃料、备件和维修)都要考虑在内。
3.根据当前情况的要求进行调整的敏捷性,以及随着时间的推移适应新情况的敏捷性。
4.应用RAS的合法性,无论是在正式意义上还是在战区和国内的(军事)操作人员和人民/社会所认为的合法性。
HCSS使用的RAS数据集在很大程度上建立在SIPRI数据集的基础上,该数据集包含了380多个RAS,被分为若干一般类别。我们的概览目前包括299个不同的RAS解决方案。我们的概览目前包括299个不同的RAS解决方案。大多数RAS被归入信息和情报类别,而使用武力的RAS解决方案最少。恰恰是由于涉及国家安全问题的分类所带来的限制,使用武力的实际RAS数量可能比可以断言的更多。此外,在中国和俄罗斯等国家收集有关RAS的数据受到其已知的保密性和语言障碍的限制。
使用HCSS的军事功能分类法,对当前的RAS进行了事实性的概述(见图1)。本节将首先展示该分类法的第一层;然后是第二层,对RAS的潜在军事应用进行更详细的说明。为了提供一个清晰的关于RAS生产和使用的广泛观点,可视化将显示每个国家生产/使用的项目的大致数量。
我们根据其军事功能对299种RAS进行了分类,即在服务与支持、信息与情报、防御性使用武力和进攻性使用武力等领域,形成了第一层分类法。图3描述了RAS的第二层,为HCSS的系统分类提供了更全面的观点。
图 5. HCSS RAS 分类法
在这些功能中实施RAS带来了巨大的挑战,但也预示着军队有了更有效、更高效和更敏捷的新机会。可以根据这些类别来评估RAS继续(重新)进化国防领域的潜力。
速度。在人工智能的帮助下,RAS已经能够超越人类的反应时间,缩短OODA(观察、定向、决定、行动)的循环,从而促进快速决策和对威胁进行优先排序。
可靠性。将任务委托给机器需要极大程度的信任,到目前为止,RAS还不能证明在所有军事应用领域都有足够的可靠性。然而,随着这些系统在执行具体任务时证明其可靠性和有效性,我们对这些系统的信心会增加。
精确性。人工智能系统已经发展了面部图像识别和感官能力,超过了人类的表现水平,尽管无人驾驶系统比人类操作人员更精确的说法受到广泛争议。
量。由于射程和耐力的增加,RAS有能力加强对战斗空间的覆盖,并压倒对手。这种潜力的最好例子是 "蜂群"。
射程。RAS大大增强了监视、情报、侦察和武器系统的可用存在点。
稳健性。在短期内,RAS将比人类更容易受到意外情况的影响,包括恶劣的天气和任务的变化。这种脆弱性延伸到了虚拟领域:因为连接的损失、黑客攻击和其他干扰会使一个系统失去能力。
安全性。RAS可以执行 "枯燥、危险和肮脏 "的任务,这样人类就可以专注于更专业的任务,并远离火线。
成本。尽管对最先进技术的独家使用权将保留给最富有的参与者,但现在被认为是高度先进的系统的成本将在未来20年内下降,从而变得更广泛地可获得。
维护。鉴于系统的复杂性和所涉及的多个(外部)合作伙伴,更新和升级RAS的软件和硬件可能被证明更加困难。
时间效率。RAS可以在不需要休息的情况下24小时高标准地执行枯燥和重复的监测任务,后勤规划可以得到有效解决,并且可以迅速超越人类多任务处理的极限。
灵活性。尽管RAS目前在执行特定任务方面表现出色,而人类在可预见的未来仍将是最灵活的。随着开发人员对当前系统的不断创新,这种动态可能会发生变化。
适应性。RAS具有很强的适应性,在系统的生命周期中可以很容易地进行重新配置(扩展、延伸、升级等),以便跟上动态环境中出现的新要求。
外部合法性。因此,军队与RAS的接触必须在它们(可能)提供的先进能力和它所服务的社会的价值观和规范之间取得平衡。
内部合法性。对RAS的信任和组织正常化将随着时间的推移得到加强。随着对系统的理解、其可预测性和熟悉程度的提高,其在组织内的合法性将得到巩固。
图6 荷兰陆军机器人
RAS的 "自主性"部分是讨论最多的,也是最受限制的。一个关键的概念是有意义的人类控制(MHC)。荷兰的正式立场是,"所有武器,包括自主武器,都必须保持在有意义的人类控制之下"。同样,没有国际公认的定义。有意义的人类控制包括(至少)以下三个要素:
然而,MHC是一个复杂的概念,在许多情况下,上述描述并不是结论性的。同样,经常使用的人在环中、人在环上和人在环外的区分也是不够的。这些术语指的是一个未指定的人和一个未指定的决策循环之间的关系,而在现实中,一些不同的人可能与各种循环有关。循环中的人类指的是人类具有监测功能,能够在需要时进行干预的情况。许多这样的环路都是非操作性的,例如,在RAS的设计阶段发挥。同时,这些术语也涵盖了人类控制(或机器自由)的方面。自主性一词中还包含的另外两个概念是机器的复杂性和被自动化的决策类型。
为了我们的目的,我们提出了一个基于SAE国际标准J3016的分类法(见图4),该标准确定了六个级别的驾驶自动化来对自动驾驶汽车进行分类。
图7 自动化等级
0:远程控制:由操作者全时执行动态核心任务的所有方面,即使有警告或干预系统的加强。
1: 操作员协助:由协助系统利用环境信息执行核心任务的某些功能方面,而操作员执行核心任务的所有其余方面,并期望操作员对干预请求作出适当的反应。
2:部分自动化:由协助系统使用环境信息执行核心任务的所有功能方面的特定模式,并期望操作者对干预请求作出适当的反应。
3:有条件的自动化:由一个或多个辅助系统对核心任务的所有功能方面进行特定模式的执行,使用关于环境的信息,并期望操作者将对干预的请求作出适当的反应或/和可以推翻自主行为。
4:高度自动化:由一个或多个辅助系统利用有关环境的信息,执行核心任务的所有功能方面的特定模式,即使操作者没有对干预的请求作出适当的反应。
5:完全自动化:由一个自动化系统在所有环境条件下全时执行核心任务的所有方面,至少达到可由操作员管理的水平。
在军事背景下开发、整合和使用RAS的伦理和法律考虑比比皆是。虽然目前关于机器人和自主系统(RAS)的伦理辩论往往被围绕着全面禁止 "杀手机器人 "的相对极端的叙述所主导,但目前关于RAS的讨论却忽略了对决定如何在军事背景下引入RAS有关键影响的细微差别。酝酿中的人工智能军备竞赛以及廉价、技术先进的系统在国家和非国家行为者中的传播,迫使各国采用RAS。军队如何在保持人类机构、人类尊严和责任不变的情况下做到这一点是非常重要的。
保持人的能动性,特别是在自主武器系统(AWS)的背景下,是关于在军事领域整合RAS的最有争议的辩论问题之一。人的能动性是一个概念,包括 "自我控制、道德、记忆、情感识别、计划、交流和思考"。它包括 "自我意识、自我意识和自我授权的特点",因此与道德机构有关,并影响到责任的归属。
人类控制也被称为 "有意义的人类控制"(MHC),是人类机构的一个操作组成部分,它区分了人类和人工决策过程。维持MHC的一个基本方面是操作者对算法过程的参数的理解,作为计算结果的呈现,以及事后解释机器通往结论的路径的能力。从这一点出发,产生了RAS特别是AI的一个重要的伦理问题:缺乏算法的透明度。神经网络等算法存在不透明性,因为它们像 "黑匣子 "一样运作,因此算法得出结论的路径往往无法追踪。操作者对此类系统的理解减少,降低了他们预测和/或解释系统推理过程的能力,削弱了操作者对结果的控制,因此,对其(错误)使用的责任。此外,算法驱动的系统的进化性质,无论是自学特性还是软件更新,都有可能大大影响系统行动的可解释性。独立发展其对周围环境的理解的自学人工智能、自动化偏见和对系统输出的过度信任可能会限制人类对RAS系统运行的控制。由于系统的设计可以在观察、定向、决定、行动(OODA)循环中的多种功能中纳入不同程度的自主性(从远程控制到完全自主),有意义的人类控制原则应在开发的最初阶段被考虑。
基本的指导原则是以 "设计的伦理 "来工作,即在用例识别、系统设计、验证、制造和测试过程中纳入伦理考虑,而不是仅仅在系统生命周期的 "使用 "阶段。这就需要在设计和测试阶段的早期建立对系统性能和行为的理解,通过早期让终端用户参与进来,这意味着操作员、监督员和指挥官将能更好地追踪、理解和预测系统的决策过程。应该为将开发过程外包给外部承包商建立最佳实践指南。
RAS中缺乏有意义的人类控制,这推动了对管理自主武器的法律讨论和辩论的考虑。国际上的立场仍然大相径庭,从禁止这类武器的支持者和反对者到介于两者之间的一些国家,强调需要进一步澄清和阐述现有制度。然而,很明显,目前的规则、标准和做法是相关的,但很可能不足以涵盖自主武器方面的发展。至少,RAS需要对现有法规进行完善。虽然基于共识的《特定常规武器公约》/《政府专家组》仍然是推动这一辩论的必要工具,但仅靠这一努力是否足够令人怀疑。尽管有非政府组织和学术界的参与,但在这种形式下,国家缔约方占主导地位,工业界只是以后备身份出现。在国际层面的定义、规范和标准的各种方法中,荷兰需要决定其武装部队现代化的方向,并在不断加强的公众辩论中决定其国际姿态。
管理RAS的法律方法包括硬法律、软法律和自愿措施。硬法涉及国家间谈判和商定的具有约束力的条约。软法涉及准法律文书,如具有政治约束力的行为守则(CoCs)或建立信任和安全的措施(CSBMs),有时涉及国家以外的多个利益相关方。最后,自愿性文书包括行为原则或规范以及最佳做法的交流,或传统军备控制界内部或外部的其他信息(见图6)。
图 6:监管 (L)AWS 的三种机制
对RAS的军事适用性的业务操作考虑涉及现有程序和武装部队内部文化带来的挑战,特别是在与外部伙伴的合作以及概念开发和实验(CD&E)方面。在合作方面,RAS的出现对军事背景下多利益相关方合作的有效性提出了挑战,特别是当它涉及与私营部门的合作结构时。除了与外部关系的变化,武装部队还必须努力解决CD&E过程的内部重组问题,这不仅会对指导组织功能的结构过程提出质疑,也会对更广泛的理论思维提出质疑。RAS的独特之处在于,它们最终会将人类带入 "圈外",并因此极大地影响作战性能、组织嵌入(例如,影响人员的数量、技能和培训)以及作战概念(理论和战术)。
由于RAS的发展在很大程度上是由民用创新驱动的,RAS的整合创造了与传统国防工业以外的设计者、开发者和制造商互动的需求。管理这种关系需要:a)综合和跨学科的合作;b)明确的任务、投资和责任分工;c)实施共同的系统结构;d)平衡军事要求和期望、技术可能性以及(可能冲突的)法律、伦理和安全参数。
此外,由于快速的创新周期,例如人工智能(AI),RAS必须在快节奏的程序中开发和获得,使用时间较短,并在系统的整个生命周期中进行修改、更新、插入或交换。而常规系统的整合包括从开发者/生产者到将使用新系统的军事组织的某种 "移交"。RAS的一个特点是对持续发展的集成软件的依赖;当然,在自我学习算法是系统自主推理的一部分的情况下。因此,RAS的移交并不一定是生产者在生命周期的后期阶段的最终参与。生产者必须确保系统得到充分和定期的更新,确保系统的自学性质得到控制,并继续满足需求和标准。
与这些快速的创新周期相比,关于伦理问题和法律不确定性的社会讨论展开得很慢。这些对话需要与国防组织之外的一系列利益相关者和政策制定者进行互动。军方应尽可能地让外部开发者参与这一辩论,并应通过使用内部准则或行为守则对所有利益相关者进行有意义的监督。
RAS的整合涉及到对所有 "DOTMLPF "类别的调整。军队应重新考虑理论是否涵盖了RAS部署的情况,部队的培训和组织是否足以确保RAS得到充分利用,是否有足够的技术知识来处理临时的技术问题,设施是否具备维修RAS的能力,等等。RAS可能给DOTMLPFelements(部分或全部)带来的根本性变化,需要与国防组织内的利益相关者、国际军事伙伴,以及可能与其他伙伴机构进行广泛的互动。
在武装部队中引入RAS,不仅仅是为了适应和使用新的武器系统。为了站在快速变化的需求和新兴技术的最前沿,并能够就RAS如何增强军队做出正确的决定,实验是关键。对于设备的开发者来说,军事世界可能是相当新的,并且鉴于在与RAS合作时出现的新问题,必须组织与开发者、生产商、知识机构,当然还有作战用户本身的密集工作关系。这些工作关系和随后的讨论应该为几乎准备好的产品建立,但也特别是为武装部队的最概念性的想法建立。这些讨论可以在所谓的 "试验台 "中进行。
在武装部队内部,如何从目前和计划中的部队转向未来部队的文化需要改变态度。需要进行深入的对话和研究,不仅是关于确定性的话题,如更新旧设备,而且是关于不确定性的话题,如思考未来需要的能力,并就如何达到这一点制定战略。国防规划系统需要为此进行调整,可能还需要在国防投资或生命周期计划中设立单独的创新基金。首先,关于采购的严格规定需要进行一些调整,以允许从旧手段向新手段的创新过渡。一个可能的方法是在定义新的能力需求的早期阶段成立一个工作组,所有相关的参与者,从法律团队和采购支持到业务用户和负责的参谋人员,都可以讨论和规划新能力的获得。
访谈发现,相当多的创新来自于组织的低层,而不是对未来技术的大局思考的产物。创新部门应该提供灵活的程序和一定程度的操作自由,以允许 "草根 "创新。创新竞赛是另一个很好的例子,说明组织可以相当迅速地、不通过复杂的程序达成某些创新解决方案。同样重要的是,允许创新失败,在这种情况下,没有人必须为这种失败而受到惩罚的想法。虽然不能指望军事组织像工业界那样接受失败和承受风险,但如果要取得进展,必须向这种态度转变。失败和风险是真正创新的不可分割的组成部分。因此,工业界和军方必须紧密合作,在RAS技术的生命周期内对创新进行评估。
图8 第13轻装旅RAS-CD&E单元
在许多陆军中,启动一个新项目或创建一个新单元的常见方式是通过周密的计划、研究和大量的耐心。2018年,荷兰皇家陆军司令部偏离了这一轨道,指派一名军官开始RAS考察,只下了一个非正式的命令:"刚刚开始,探索各种可能性"。在没有正常的组织分解结构和工作描述的情况下,这名军官将具有不同专长的人聚集在他周围,并进行了简短的文献审查和市场调查,以考察设备的可能性和可用性。这个新成立的团队得到了RAS实验单元的名字。该单元负责RAS领域的概念开发和实验,并与工业界和大学一起探索短期和中期的研究目标。
这种迅速的开始使得在短短两年内建立一个大约20人的团队,拥有各种机器人、无人机和其他设备。在此期间,在苏格兰和奥地利进行了重大演习,RAS团队带着机器人参加了演习。
军队指挥部的明智决定是将RAS实验单元设在一个作战旅,即13轻骑兵旅内,而不是教育和训练单元或卓越中心内。这样一来,就有可能为最终用户进行实验,并与最终用户一起进行实验,从未来必须操作这些系统的人那里获得直接反馈。终端用户由一个常规步兵排代表,该排被旅长指定为执行实验的专用排。这个所谓的RAS排被置于RAS实验单元的战术指挥之下。
在第一年半的时间里,RAS-单元抓住一切机会快速启动,这导致了各种各样的项目分散到各个方向,它们之间没有明确的凝聚力或明显的焦点。这种工作方式是经过深思熟虑的选择,即在短时间内非常灵活地探索RAS的广泛领域,并采摘低垂的果实,而不是被阻碍和束缚在一个僵化的路径上。这种方法在短时间内取得了许多小的成功,其结果是在组织内创造了一种积极的运动和热情,以接受这一计划,并继续为一个相对不确定的计划分配资金和资源。它引起了上级指挥部的注意、信任和 "赞助者",产生了促进该计划成为武装部队创新的主要先锋之一的积极结果。
基于过去一年半的知识和经验,广泛而多样的方法汇聚成2021年和2022年的三条行动路线。第一条线的目标是在2022年底与RAS排一起在军事相关的环境中进行操作实验,如任务。第二条是继续进行已经开始的短周期实验,第三条是(内部)开发人工智能,以实现从远程控制到更多自主系统的步骤。这三条线都将集中在战斗功能上。虽然从后勤或传感开始争议较少,但国家拥有使用武力的垄断权,因此有责任在这一领域启动控制良好和负责任的研究和开发。在其他研究领域有可能出现双重用途的情况下,军队应以最低限度的能力采用和吸收这些研究结果,使其成为军事证据。在战斗功能方面,需要与工业界和大学的技术专长紧密合作并结合具体的军事领域知识。
上述所选方法的成功程度取决于某些先决条件和满足这些条件的方式。以下因素对RAS项目第一阶段的迅速开展至关重要。
首先,被指派领导项目的人必须有一种反叛和创业的心态,特别是在像军队这样的大型官僚组织。这是必要的,以便以非传统的方式将组织从A地转移到B地。如果以传统的方式进行,你最终可能只是把事情做得更好一点。第二,项目负责人必须表现出毅力和勇气,因为这将是一个艰难的内部旅程,团队会遇到很多不情愿、不灵活和保守的情况。第三,管理层必须表现出对项目负责人的充分信任,并以诚实的意图而不是以时间表来支持任务。这意味着一级和二级管理层必须接受混乱和 "不受控制 "的感觉。因此,重要的是在组织内部尽可能低的层次上赋予全部责任。例如,在计划开始时,只有少数项目和活动是由上级指挥部设立和了解的。但随着时间的推移,RAS单元不断壮大,项目和活动的数量也随之增加。当上级指挥部和上级领导对他们所不知道的项目数量感到 "惊讶 "时,当他们 "面对 "进展的规模时,就出现了转折点。尽管所有项目似乎都符合方案和指挥官的意图,但未知的情况让上级指挥部感到不舒服。花了一些时间和多次 "咖啡机会议 "才阻止了收紧规则和增加控制措施。为了提高上级指挥部对形势的认识,同意在RAS-单元内引入某种联络方式。
造成这种失控感的部分原因是,RAS计划是一个复杂的、全面的和技术性的计划。它有各种各样的基础项目,在技术领域、工程师或概念的成熟度、工业伙伴和方法上都有所不同。所有这些较小和较大的项目在时间上平行和/或串行运行,最终都有助于实现商定的目标。但这需要对所有这些项目有深入的了解,并以整体的观点来看待这种相互联系。只看到这个复杂的拼图的一部分会给人一种混乱的印象。然而,正如高级指挥部所意识到的那样,对方案细节有一个非常简要的概述,但对目标和目的有一个清晰的看法和把握,这是第一步。下一步是接受这种简短的细节,抑制试图掌握所有细节的第一反应,这仍然是方案中的一个问题。为解决高层领导的这一担忧,一个可能的解决方案是创建一个大型的图像序列,其中所有的(子)项目都围绕着主要目标进行可视化,并概述这些(子)项目之间的关系。有了这样的图示,就更容易说服和告知上级指挥部这些(子)项目的必要性,以及它们在大局中的作用。最后,对于参与项目的每一个人来说,接受(或更好地拥抱)失败并保持耐心是很重要的。
图 9.NLRA,RAS 排。 Themis RC 机器人在奥地利与荷兰步兵一起进行 CD&E 演习
随着RAS发展的重点放在战斗上,荷兰国防部已经启动了对无人驾驶地面车辆(UGV)和人工智能(AI)的长期投资计划。在15年的期限内,军队将投资于各种战斗型UGV的实验,包括进一步开发相应的人工智能。随着这项投资集中在连级,实验将被执行,以开发更大规模单元(如营或旅)的新操作概念,同时还将建立一个模拟程序。这一发展的第一步从2022年开始,并将在2023年继续。目标是创造一个模拟环境,在这个环境中,指挥官和他的工作人员可以尝试新的作战概念,除了现有的军队装备外,还可以自由地纳入各种RAS。除了概念的发展,这些模拟的结果将为新单元的形成和设置、这些单元内所需的RAS组合以及这些系统的具体资格提供指导。