《自主武器系统（AWS）的网络系统视角》

亮点

自主武器系统是一种鲜为人知的新兴技术。
提出了 “自主技术的三大支柱”，以帮助人们理解这一问题。
第一支柱从递归的角度关注系统方面。
第二支柱关注自主性（自我调节系统）。
第三支柱强调价值支柱，关注伦理和法律问题。

自主武器系统（AWS）也许是最具争议的技术形式之一。然而，自主武器系统的概念并不容易界定，因为它与武器的区别在于自主系统。这就需要采用系统方法来理解什么是自主武器系统。

本文旨在探讨如何从系统角度帮助我们理解自主武器系统。本文提出，自主武器系统可以从三个支柱来解释。首先是系统，从自我调节系统的角度来看，这就引出了第二个支柱，即自治。支撑这些自我调节系统运作的是第三个支柱，即价值观，表现为法律和道德方面的考虑。英国国防部最近的一些文件揭示了英国对自主武器系统的做法，利用这三大支柱对其进行了探讨。这为深入了解与自主武器系统相关的复杂性，以及在界定系统构成要素、自主性性质和价值观如何制约其使用（尤其是法律合规性和道德判断）方面所面临的挑战提供了丰富的视角。结论是，三大支柱为理解其他形式的自主技术系统的复杂性提供了一个有用的框架。

自主武器系统（AWS）的定义与标识

自主武器系统是自主技术的一种形式，包括自主陆地飞行器（Nemoto 等人，2023 年）、自主空中飞行器（如 Mohamed 等人，2020 年；Ilić 等人，2022 年）、自主海上飞行器（Tijan 等人，2021 年）以及自主太空飞行器（Dörflinger 等人，2019 年）。然而，自动驾驶的特点引发了一系列广泛的问题，包括经济、社会和环境影响；技术挑战、基础设施要求、测试标准和网络安全；可靠性、维护和安全性挑战；道德泥潭；法律和政策挑战（Kumar 等人，2022 年）。此外，这些技术的应用还能为 “人类带来更大的福祉”（Omohundro，2014 年）。奥莫亨德罗对人类福祉的关注承认，这些技术可能有意无意地具有反社会性和危害性。事实上，对自动驾驶汽车的追求已经揭示了它们作为杀人机器的潜力，并引发了问责问题，2018 年亚利桑那州就报道了一起自动驾驶汽车致死事件（Gibbs，2018 年；Zhou 和 Sun，2019 年；BBC，2020 年）。既然自动驾驶技术总体上预计不会对人类造成伤害，但它们也可能对人类造成伤害，那么我们对其设计、部署和使用方面需要考虑的一系列问题了解多少呢？

自主武器系统（LAWS）是一类特殊的自主技术，它们具有争议性，因为其中有一种特殊类型的技术在设计之初就带有杀人的意图，这就是致命自主武器系统（LAWS）。因此，它们的使用引发了许多学术和政治辩论。考虑到所提出的各种问题，如果能以一种有意义和连贯的方式将这些问题概念化，那么我们建议这将有助于我们理解以非攻击性方式出现的其他形式的自主技术。然而，理解自主技术和 AWS 的出发点是确定什么是技术。

自主武器系统的三大支柱

这一思路表明，自主武器系统有三大支柱。首先是系统（如感知、效率和可预测性问题），它是不同要素的复杂组合，具有适应性。其次是自主性问题（如战略问题），但这是一个模棱两可的术语，自主性分布在整个系统中。自主性与人为干预有关，而人为干预本身可能在整个系统中各不相同，但人为干预引入了价值观（如问责制），这些价值观是决定在何处、何时、如何以及为何采取行动的基础。

系统系统观点的重要性在于，它承认作为自主武器系统的技术人工制品是更大系统的一部分。然而，这个 “部分 ”到底是什么，还有待商榷，因为不同的观点会揭示出多个维度，进而认识到相关系统的嵌套，从而暴露出系统的复杂性。

系统可以被视为一个实体，由相互作用的各种要素构成。它既可以被视为一个存在的实体，也可以被视为一个 “整体 ”的概念或 “心理建构”（Espejo，1994 年）。两者都需要区分系统内外的界限。计算机 “系统 ”就是前者的例子。笔记本电脑是一个黑盒子，它可以被视为一个系统，但如果没有提供电源、软件、连接等要素，它是不存在的。事实上，它的存在完全归功于设计和使用它的人类。社会技术系统“（Trist，1981 年）、”社会技术成分“（Molina，1990 年；Molina，1997 年）和 ”社会物质组合"（Suchman，2007 年；Orlikowski 和 Scott，2008 年）等概念都体现了这种人类-人工制品的配置。对系统边界的定义是一种概念上的区分，有助于理解关注的焦点。

系统的配置性意味着有界元素是以某种方式组织起来的。这种组织有两个方面，即操作领域和信息领域。运行域侧重于实体网络及其关系。自然界中的生物体是一个自足的物理实体，从这个意义上说，它是一个封闭的系统。然而，它在信息上对来自外部的信号是开放的，这些信号经过处理后，在机器中表现为数据，在人类中表现为认知。因此，一个系统既可以被视为操作上的封闭系统，也可以被视为信息上的开放系统（Espejo，1992 年）。

此外，系统的有界性意味着存在某种形式的区分，这种区分使包含在边界内的事物被识别为属于系统，而边界外的事物则被排除在外。从这个意义上说，每一个系统都有一个可以被识别的身份（如一个人的行业或职业，或一件人工制品的分类），并有可能是独一无二的（如一个人的护照号码或一件人工制品的序列号）。

此外，鉴于系统是由其边界定义的，那么就有可能根据系统边界的概念化来识别系统中的系统。每个系统都有自己的特性，揭示了它是什么，这或许体现在它的名称上。表示组织不同层次的名称就说明了这一点。这可能暗示了系统的层级组织，但层级的概念令人联想到等级。相反，假设每个层级都等同于其他层级，这就导致了对系统的递归视角，这也成为了理解系统组织复杂性的一种有用技巧。

自主第二个支柱是自主。自主可以定义为独立和自治（OED, 2023）。自治的概念可能是最有见地的，因为它将注意力集中在系统内自治的性质上。此外，通过将系统视为系统中的系统，我们可以认识到，嵌套的可行系统的自治是分布式的。这表明，自治不是一种绝对的状态，而是相对的。

图2所示。AWS的自我调节能力。

5.3. 价值

任何技术都有一个基本假设，那就是它是有目的的。这意味着意图。这反过来又意味着，意图中蕴含着为人工制品赋予目的的人的价值观。

虽然对价值概念的含义有不同的看法，但可以从规范的角度来看待它（Kluckhohn，1951 年），这意味着某种形式的标准或参照点。那么，作为一种标准，可以将立法制定的标准与构成个人、群体或组织的指导原则并导致自愿自我规范的标准区分开来。无论如何，Taddeo & Blanchard（2022: 2）指出，在与使用自主武器系统有关的法律和道德标准的三个基础问题上存在共识，即 “尊重人的尊严、国际人道主义法（IHL）和国际稳定”，其中国际人道主义法是这场辩论的核心。其基础是在处理冲突时应秉持公正的理念（战时法），其核心是区别对待和相称性（Orend，2006 年）。这凸显了法律和道德问题，以及参与部署和使用自主武器系统的潜在或实际冲突者的价值观。