【AI+军事】204页PDF《军事背景下的机器人和自主系统（RAS）》，RAS Project介绍

世界各地的军队正在根据战争的发展开发、集成和使用机器人和自主系统 (RAS)。需要进一步思考这一过程在荷兰境内发生的条件以及可能产生的挑战和影响。HCSS 项目“军事背景下的 RAS”试图为这一讨论做出贡献。

在两年的时间里，该项目产生了五篇公共研究论文，涵盖了与在军事背景下实施 RAS 相关的一系列主题。这些研究论文涵盖了军事适用性、伦理考虑、法律论述、合作要求以及 RAS 在军事环境中的实施。所有论文都合并在此报告中，包括简要总结分析的综合报告和一系列六份情况说明书。研究方法侧重于获取从业人员、研究人员、伦理学家、法律专家、行业专业人士、技术人员、民间社会组织、军事人员和国防界其他成员的专业知识。这样做不仅能够收集对主题的多方面理解，而且还能将这些利益相关者独特地联系在一起，并促进他们之间具有挑战性的讨论。在项目过程中，与不同的咨询委员会成员举行了五次会议，指导了研究轨迹，并为其立场文件和研究论文草稿提供了宝贵的意见。还收集了来自 200 多名利益相关者的专业知识，参加了六场专家会议，其中涉及各种方法，包括基于场景的讨论、设计会议、

次要目标是为公众辩论提供信息，并在抵制流行的“杀手机器人”观念的军事背景下就 RAS 进行更细致的对话。为此，举办了关于 RAS 的道德困境的公开研讨会，与 BNR Nieuwsradio 合作发布了五个 De Strateeg 播客，组织了会议和圆桌会议，并于 2021 年 2 月发布了一部 18 分钟的纪录片。

引言

2019 年 12 月，普京在俄罗斯国防部董事会会议上发表讲话时表示，“机器人系统和无人机正在被严格引入并用于战斗训练，这极大地提高了武装部队的能力。”几个月后，俄罗斯国防部宣布了一项价值约 420 万欧元的封闭招标，旨在“研究为新一代人工智能军事系统创建神经网络开发、训练和实施的实验模型”。虽然中国在公开场合远没有那么自夸，但他们的军事优势战略是由人工智能和自动化的发展引领的，这导致一些分析人士认为，解放军的目标是通过系统冲突和高度智能化的战争来主导。

这些观点意味着一个更大的现象。世界各地的军队正在根据战争的第四次演变开发、整合和使用机器人和自主系统，需要进一步思考在荷兰境内进行这一过程的条件以及可能出现的挑战和影响作为结果。

HCSS 项目“军事背景下的 RAS”试图为这一讨论做出贡献。在两年的时间里，该项目产生了五篇公共研究论文，涵盖了与在军事背景下实施 RAS 相关的一系列主题。该综合将这些主题联系在一起，并展示了该项目最相关的发现。下面总结了 HCSS 研究对道德要求、法律话语、合作伙伴合作、实施和概念开发和实验的观察，然后是关于 RAS 的军事适用性的初级部分。

RAS的军事适用性

机器人和自主系统 (RAS) 在军事环境中提供了大量、重要且影响深远的机会。为了观察这些系统在这种情况下的适用方式并评估它们的效用，需要解决一些定义和概念：

1 自主性：人类赋予系统执行给定任务的独立程度。根据系统自身的态势感知（综合感知、感知、分析）、规划和决策，实现分配任务是自治的条件或质量。自主性是指一系列自动化，其中可以针对特定任务、风险水平和人机协作程度定制独立决策。自主级别可以包括远程控制（非自主）、操作员协助、部分自动化、条件自动化、高度自动化或完全自动化。

2 机器人：能够通过直接的人工控制、计算机控制或两者兼而有之来执行一组动作的动力机器。它至少由平台、软件和电源组成

3 机器人和自主系统 (RAS)：RAS 是学术界和科学技术 (S&T) 社区公认的术语，强调这些系统的物理（机器人）和认知（自主）方面。RAS 是一个框架，用于描述具有机器人元素和自主元素的系统。值得注意的是，RAS 的每个连续部分都涵盖了广泛的范围。“系统”部分指的是广泛（在我们的例子中为军事）应用领域的各种物理系统。在计算机或网络上运行的自动化软件系统，包括“机器人”，即无需人工干预即可执行命令的软件，不符合 RAS 的条件，因为它们缺少物理组件。“机器人”部分，指的是系统的物理布局，认为系统是无人或无人居住的。所有其他物理方面（大小、形式，无论是飞行、漂浮还是滚动等）都保持打开状态。

4 致命自主武器系统 (LAWS)：一种武器，在没有人为干预的情况下，根据人为部署武器的决定，在没有人为干预的情况下选择和攻击符合某些预定义标准的目标，因为攻击一旦发动，人为干预就无法阻止。

5 有意义的人类控制（MHC）：MHC 包括（至少）以下三个要素：（1）人们就武器的使用做出知情、有意识的决定；(2) 人们被充分告知，以确保在他们对目标、武器和使用武器的背景所了解的范围内，使用武力符合国际法；(3) 所讨论的武器是在现实的操作环境中设计和测试的，并且相关人员已经接受了足够的培训，以便以负责任的方式使用武器。MHC 是一个复杂的概念，在许多情况下，上述描述并不是决定性的。荷兰官方的立场是，“所有武器，包括自主武器，都必须保持在有意义的人类控制之下。”

“杀手机器人”的言论已将公众对军事环境中机器人和自主系统的看法缩小为完全关于高度或完全自主系统使用致命武力的观点。实际上，RAS 可应用于众多军事功能和任务，每个功能具有不同程度的自主性（见下图）。机器人和自主系统的广泛军事适用性产生了无数和巨大的机会。未来几年的挑战是充分利用这些机会，发挥军事优势的潜力，同时降低所带来的风险。

在这些功能中实施 RAS 会带来重大挑战，但也预示着军队将面临更有效、更高效和更敏捷的新机遇。可以根据这些类别评估 RAS 继续改进/再改进国防领域的潜力。

速度。在促进快速决策和威胁优先级排序的人工智能的帮助下，RAS 已经能够超越人类的反应时间并缩短 OODA（观察、定位、决定、行动）循环。

可靠性。将任务委派给机器需要高度的信任，但到目前为止，RAS 还不能证明在所有军事应用领域都有足够的可靠性。然而，我们对这些系统的信心将会增加，因为它们证明了它们在执行特定任务时的可靠性和有效性。

准确性。人工智能系统的面部图像识别和感官能力已经超过了人类的表现水平，尽管无人系统比人类操作员更精确的说法受到广泛争议。

大规模效应。由于射程和耐力的增加，RAS 有能力增强对战场的覆盖范围并压倒对手。这种潜力的最好例子是“蜂拥而至”。

可达性。RAS 极大地增强了监视、情报、侦察和武器系统的可用存在点。

稳健性。在短期内，由于恶劣的天气和任务的变化等意外条件，RAS 将比人类更容易失败。这种脆弱性延伸到虚拟域：由于连接丢失、黑客攻击和其他干扰可能导致系统无法运行。

安全。RAS 可以执行“枯燥、危险和肮脏”的任务，以便人类可以专注于更专业的任务并远离火线。

成本。尽管最先进技术的独家使用权将保留给最富有的玩家，但现在被认为是高度先进的系统的成本将在未来 20 年内下降，从而变得更加普及。

维护。考虑到系统的复杂性和涉及的多个（外部）合作伙伴，更新和升级 RAS 软件和硬件可能会更加困难。

时间效率。RAS 可以 24/7 全天候高标准执行乏味且重复性的监控任务，无需休息，高效解决后勤规划，快速超越人工多任务处理的极限。

灵活性。尽管 RAS 目前在执行特定任务方面表现出色，但在可预见的未来，人类仍将是最灵活的。随着开发人员继续创新当前系统，这种动态可能会发生变化。

适应性。RAS 具有高度自适应性，并且随着时间的推移在系统生命周期（扩展、扩展、升级等）期间易于重新配置，以便跟上动态环境中出现的新要求。

外部合法性。因此，军方与 RAS 的接触必须在他们（可能）提供的先进能力与其所服务的社会的价值观和规范之间取得平衡。

内部合法性。RAS 的信任和组织规范化将随着时间的推移而得到加强。随着对系统的理解、可预测性和熟悉度的提高，它们在组织内的合法性将得到巩固。

许多国家认识到这种潜力并意识到需要在瞬息万变的国际舞台上具有军事竞争力，因此将 RAS 用作其武装部队的一部分（图 2）。然而，尽管有明显的机会，但在军事环境中实施 RAS 并非易事。许多实际和理论挑战阻碍了实施过程，需要政策制定者、创新者、研究人员、国防界和民间社会成员之间的讨论，在许多情况下，这些挑战考验着我们赖以监管、开发、获取、整合和使用其他军事技术。为了分析这些挑战，重要的是确定 RAS 系统生命周期的三个阶段：开发、集成和使用（图 3）。下一节总结了在 HCSS RAS 项目期间探索和分析的理论考虑（道德和法律）和实际考虑（私营部门合作和概念试验与开发）。