《算法战与准确性的重塑》英国兰开斯特大学

本文旨在整合批判性安全研究中两个相互关联的分支。第一条是越来越多的证据表明，美国 "反恐 "计划中关于精确性和准确性的主张是错误的，特别是当它涉及扩大空中监视以支持法外刺杀行动时。第二条批判性分析涉及对这些行动的进一步自动化的投资，更具体地说，就是美国国防部的算法战争跨职能小组，或称项目Maven。基于批判性安全研究和科技研究（STS）的生成性交集，我（作者，以下同）认为在人工智能的标志下促进自动化数据分析只能加剧军事行动，这些行动在目标选择上既是歧视性的又是不分青红皂白的，同时在政治上和法律上又是不负责任的。

关键词：军事；目标定位；人工智能；武器

2017年4月，美国国防部（DoD）宣布了一项关于算法战争跨职能小组的提案，代号为Project Maven（国防部副部长 2017）。时任国防部副部长罗伯特-沃克的公告宣称，迫切需要将'人工智能和机器学习纳入[国防部]行动'，并列举了'能力越来越强的对手和竞争对手'。Work的呼吁中所表达的紧迫性有助于一种更广泛的、高度表演性的言论，宣布一场不可避免的人工智能（AI）军备竞赛，其中俄罗斯和中国被认为是主要对手。Work在他的备忘录中说，Project Maven的目标是 "将国防部可用的全动态视频形式的大量数据迅速转化为可操作的情报和见解。沃克制定的计划包括一个初步项目，重点是在美国无人机系统（UAS）监视行动产生的全动态视频中标记数据，作为建立自动 "目标检测、分类和警报 "所需算法和计算基础设施的第一步，以支持武器瞄准。

本着这个特刊的精神（见Bellanova等人即将发表的文章），我对这些发展的分析是在批判性安全研究和科学技术研究（STS）的学术交汇点上进行的，特别是当两者都日益受到女性主义理论和研究的影响时。更具体地说，我把关于观念军事化的安全研究学术解读为，除其他外，一个阐释暴力力量如何描绘威胁和寻找目标的项目。相应地，STS的研究一直致力于追踪军事技术的发展，并了解到技术不仅包含物体，而且包含主体地位、身体、话语和物质实践。反过来，女权主义的感觉又引导人们关注差异是如何作为军国主义技术的一个组成部分而被颁布的，以及对生命的不同评价产生了什么后果。

我对美国军国主义如何确定威胁这一问题的研究，从 "态势感知 "的军事话语开始。作为一个可扩展的结构，态势感知的范围可以从战斗人员对其眼前情况的瞬间理解，到作为战略军事计划和行动基础的全面地缘政治理解。对我在这里的目的来说，至关重要的是，军事分析家认为，局势意识是遵守战争法的行动的前提条件。这尤其适用于杀戮行为，包括确定谁或什么构成合法目标的关键过程。

尽管军方渴望实现完美的态势感知，但后者仍被军事学说中的 "战争迷雾 "问题所颠覆（Owens 2000；Davidson 2011）。在这种情况下，Maven项目可以被解读为对这一持久性问题的技术解决方案的一个最新承诺。在当代，化解战争迷雾和实现威胁识别的完美准确性的幻想被投入到不断扩大的数据基础设施中，这反过来又迫使数据分析的自动化进一步发展。目标定位的准确性已经成为军事合法性主张的试金石，但我将论证，它也是一个越来越多地掩盖而非揭示的结构。

我批评的前提是，为自动瞄准系统的新投资提供理由的准确性要求，是基于对武器和其指定目标之间的关系以及对构成（合法）目标的识别的系统性混淆。前者的精度再怎么提高，也无法解决后者日益增长的不确定性和模糊性。坚持认为它们可以，是否认美国军方在越来越多地依赖对谁构成合法目标的陈规定型分类方面的罪责的运动的一部分，以及对什么构成紧迫威胁的时间和空间边界的扩大。在所谓的反恐行动中，制服战斗人员的标志已经被主要依靠种族/民族和行为特征的识别做法所取代。此外，迫在眉睫的威胁不再需要任何实际的证据来证明对美国特定的人或利益的攻击将会发生，或者甚至是计划进行。监视机构只要把一个人与一类被定义为威胁的目标人物联系起来就足够了。同时，在目标定位的理由方面，精确性的说法在战略上是模糊的，与之相匹配的是，人工智能的具体构成也不明确，这个数字不受它所掩盖的具体的、仍然高度有条件的数据分析技术的影响，以及这些数据分析与政治的不可分割性。两者都在为新层次的军事技术狂热提供支持，同时又将这些 "智能 "系统所依赖的、并使之进一步制度化的有问题的识别机构神秘化。

我首先回顾了批判性安全研究和STS中与批判我所称的，继Mackenzie（1990年）之后，在具有算法功能的武器系统中重塑准确性有关的著作。然后，我转向对态势感知问题的更广泛的讨论，以及作为技术解决方案的机器 "识别 "的附带建议。在这个分析中，态势感知可以被理解为一种识别装置。在Barad的概念中（2007, 171），仪器是指制定一个边界，划分实体并阐明它们的差异。在这个框架内考虑，态势感知是众多仪器中的一种，通过它，敌意的架构在美国军国主义的想象力和领土地理学中得到了落实和实践。这为我讨论Maven项目及其以日益自动化的武器系统为形式的后续项目提供了背景。最后，我反思了对算法战争的关键挑战的影响，它被理解为对技术决定的准确性的战略重塑，以及被设计为使不负责任的法外行刺行为正常化的装置。