《自主系统：国防政策制定者面临的问题》北约347页报告

军事系统日益增强的自主能力提出了各种具有挑战性的法律、伦理、政策、行动和技术问题。本卷的主要贡献在于它对这些挑战的多学科表述。在引言部分，沙瑞概述了自主性的基本概念，并反思了其对军事行动的影响，如人机合作的机会。随后，威廉姆斯对如何定义 "自主性 "进行了详细分析。Scharre和Williams的章节提醒我们，真正的自主系统并不存在--也许只是在科幻故事的遥远未来。相反，他们强调自主性是系统的一种能力，它存在于组织、政策、指导和人类控制的复杂安排中。

Roorda的这一章给出了一个具体的例子，说明自主系统的使用是如何被特定的政策过程所控制的，以及在部署任何系统之前，该过程的每个阶段是如何纳入对相关法律、道德和操作问题的必要的人类决策。

然而，当代的政策辩论--最近在《联合国某些常规武器公约》中，显示出自主系统仍然是一个有争议的话题。虽然武装冲突法和国际人权法并不禁止向自主系统下放军事职能，但阿诺德和克罗托夫的章节扩大了视野，特别讨论了国家的作用和责任，以及可能受到自主系统发展影响的各种国际法。然而，这种政策问题并不是军事领域所独有的。安德森和松村的章节强调了在民用领域引入 "无人驾驶 "汽车所面临的法律和政策挑战，军事能力应该注意到这一点。

即使考虑到这些法律和政策结论，对自主系统仍有严重的伦理和实际保留。梅尔的章节为分析自主系统在军事行动中的影响提出了一个伦理框架，并提出了一系列政策制定者的建议。Keeley提出了另一种解决方案，建议建立一种审计和追踪系统内部算法的程序和能力，以便进行验证和确认、测试和问责。然而，Theunissen和Suarez表明，对于许多任务来说，高水平的自主性不一定是可取的，最佳的解决方案是将自主控制和人类控制结合起来，发挥各自的优势。

有了这个关于自主系统政策考虑的法律、定义和伦理框架，本书的最后一节介绍了关于能力发展各个方面的四个详细章节。首先，Saariluoma提出了一个框架，为自主系统引入基于人类技术互动设计的思维，提醒我们，最终，这种系统是人类的工具，因此，人类互动和控制系统的方式应该是直观的。

Sulzbachner、Zinner和Kadiofsky的章节强调，许多自主系统的要求是无源光学传感器技术，用于在非结构化、非合作的环境中运动。他们提醒我们，正在进行的将无人驾驶和自主系统纳入空域的各种监管举措，例如，本质上依赖于建立性能标准，然而验证光学和其他传感器系统的标准化方法仍未完全建立。

Arbour、MacLeod和Bourdon对有人和无人的组队概念进行了分析，并提出了一系列不同的选择，即无人飞机如何与有人飞机协同使用，发挥各种新的作用。他们的建议是，鉴于无人系统的可靠性和自主性不断提高，我们需要在能力发展的早期阶段确定更多的潜在配置和组合，而不是局限于一对一的平台替代。

托尔克在本卷的最后一章建议更多地使用基于代理的模拟方法来支持自主系统的设计、开发、测试和操作使用。原因是仿真中的软件代理是自主机器人系统的虚拟对应物，在许多情况下，管理物理系统和软件代理的基本算法可能是相同的。这导致了许多改善系统测试和评估的机会，而且通过在部署前对系统的任务进行模拟，还可以提供操作支持。

本卷的结尾是北约首席科学家Husniaux少将的前瞻性观点，他为未来的能力发展推荐了一系列关键研究领域。他提醒我们，科学和技术的发展是必不可少的，但必须与操作者、政策、法律和理论观点合作，共同发展。

我们正在扩大我们在这一关键领域国防能力的视野，然而创新需要外部的投入和新的观点。实现这一目标的最佳方式是通过一个多样化的专家网络来分享想法。我知道，SACT总部领导的工作已经从这种接触中受益匪浅，我希望联盟的科学家、工程师、法律和政策工作人员以及军事操作人员网络也将同样受益。