中文版《人工通用智能会改变战争的性质吗》

引言

克劳塞维茨提出的 "战争本质不可改变 "的观点是一个不断接受考验的信念。人类历史上有可能改变战争性质的最新发展是人工智能（AI）。在本杂志最近发表的一篇文章中，Alloui-Cros 认为战争的本质不会改变。 他的这一结论基于以下三点： 人工智能只是一种压缩时限的工具，但无法做出复杂的决定；人工智能有人类的偏见，旨在解决人类的问题；战争是人类的活动，我们永远可以选择决定战争的进程。从目前可用的人工智能来看，他的观点可能是正确的，人工智能不会改变战争的本质，也不会打破激情、机遇和政策三位一体的战争本质。他的结论与其他讨论军事革命如何改变战争的学者的结论一致。例如，格雷得出结论："一些糊涂的理论家会让我们相信，战争可以改变其本质"。Echevarria研究了RMA、全球化和战争性质之间的关系，并得出结论认为，尽管克劳塞维茨框架正在发生变化，但它仍然 "比任何其他框架都更适合理解当今全球环境下的战争性质"。

一方面，Alloui-Cros 的文章有其可取之处，因为它承认克劳塞维茨的战争理论仍然是任何讨论的参照点，并更新了 AI 过去关于技术革命对战争性质影响的结论。

另一方面，他并没有考虑具有类似人类能力的人工智能，即所谓的人工通用智能（AGI），其能力远远超过人类的理解能力，是否能够证伪这一理论。文格尔称这种人工智能为 "奇点"，这是一个数学术语，用来标示函数退化并改变其性质的点，在这个点上，函数与之前的函数发生了质的变化。文格总结说，"在这一点上，我们的模型必须被抛弃，新的现实将主宰一切"。因此，远远超越人类能力的 AGI 被称为奇点，因为一旦它出现，过去将不再是预测或理解未来的指南。一些作者将这种可能性描绘成世界末日。其隐含的结论是，不值得研究之后的事情，因为 AGI 奇点将毁灭我们。这个立场是有争议的，因为如果我们无法知道这个新的现实会是怎样的，那么得出奇点会毁灭而不是拯救我们的结论是不可能的，同样也是无用的。此外，正如文吉在他的开创性论文中所说，随着时间的推移，我们应该会看到奇点来临的征兆。因此，值得研究的是，战争的本质将如何被这一不断演变的新现实所改变。阿鲁伊-克罗斯针对我们所知的现实，回答了人工智能与战争性质的问题。本文的目的是通过推测当我们接近人工智能的奇点时，战争的本质可能会发生什么变化来补充这一讨论。

本文分为三个部分。首先，本文将介绍 AGI 成为奇点所需的两个条件：超级智能和意识。其次，本文将尝试回答人工智能的超级智能和意识能否改变克劳塞维茨对战争的定义。第三，一旦我们确定战争仍然是出于政治目的的有组织暴力，它将描述人工智能超级智能和意识可能如何影响克劳塞维茨的暴力、机遇和政治三位一体。结论是，人工智能超级智能和意识有可能改变战争的本质。

什么是人工智能?

人工智能研究员麦卡-克拉克（Micah Clark）写道，"从个人和哲学的层面上讲，人工智能一直在塑造人，是关于'人格'的"。目前的人工智能还远远没有达到 "人格 "的境界，它们最好被理解为高度优化的算法，可以解决一些狭窄的任务，但却不善于将这些技能转移到新的任务上。对于能够执行与人类相关的复杂认知任务的合成有意识智能是否会出现并最终超越人类的能力，研究人员甚至还存在分歧。尽管如此，超级智能和意识这两个步骤如果能够实现，将会改变战争及其性质。

超级智能

关于人类智能的本质尚无共识，关于超级智能的共识就更少了。我们仍然可以采用博斯特罗姆提出的工作定义："任何在几乎所有相关领域大大超过人类认知能力的智力 "都是超级智能。这可以表现为与人类智力能力相当，但速度快多个数量级，也可以表现为比人类智力高出很多，或者是两者的结合。起初，它将是一个 "种子 "人工智能，能够通过递归自我完善建立一个更好的版本。人工智能研究人员认为，只要有足够的智能放大技能，系统就能根据需要开发出新的认知模块，包括同理心、战略思维和政治敏锐度。

不过，社会心理学家已经认识到，作为与单个有机体相关的东西，心智只是智能的近似值。实际上，心智是社会性的，它存在于社会和文化系统之中。人工生命（ALife）研究可以让我们深入了解机器如何通过贸易和斗争规则来组织社会，并发挥社会智能的作用。人工生命设想了人工智能社会的可能性，这将导致人工智能的超强智能。

意识

人工通用智能可能会发展意识，将其作为优化整体奖励功能的工具，并可能具有与人类截然不同的特征。哲学家和研究人员在意识是什么、自我意识是否必要或只是一种特殊的现象意识等问题上存在分歧。特别是，缺乏身体经验和生物动机将实现明显的卡特尔式身心二元论，这将从根本上质疑人工智能区分自身与他人、关心自身和表达意向性的能力。

人工智能的进化并不完全可预测，但我们可以预见，它将发展出越来越高的智能和某种程度的自主意识。我们可以通过这些概念来探讨其对战争的影响。

是战争吗？

克劳塞维茨的战争定义

要回答的第一个问题是，与 AGIs 以及由 AGIs 发起的战争究竟是战争还是一种不同类型的互动。克劳塞维茨在《论战争》中提出了战争的概念（Begriff），即 "一种迫使对手实现我们意愿的暴力（Gewalt）行为"。

这一定义包括三个要素：a) 暴力；b) 目的；c) 社会要素。

a. 在克劳塞维茨看来，使用暴力的结果是 "流血"，[xxi]而战争的对等因素使暴力具有升级的性质，其使用没有理论上的限制。

b. 另一方面，暴力升级是一种潜在的结果，而不是必然的结果，因为人类的理性决定应决定暴力升级。因此，军事目的（Ziel）受到限制，并根据战争的政治目的（Zweck）来判断，它只是现有总体手段（Mittel）的一个组成部分。

c. 战争是愿意抵抗并实现其政治目的的群体之间的关系。它是 "联合侵略 "的一种功能，必须发生在对现实有共同理解的有组织团体之间。

a. 暴力与AGI

汉德尔强调，在克劳塞维茨看来，没有暴力的胜利是战争史上的一种反常现象。从理论上讲，有两种方法可以取得胜利，一种是通过机动，另一种是 "代数战争"，即通过比较彼此的优势来解决冲突。普鲁士将军认为第一种方法无效，第二种方法因激情而不可能实现。相比之下，人工智能指挥官可能会作为一个完全理性的实体，实现 "代数战争"。不过，值得一提的还有这种情况的不同组合。如果 AGI 受人类控制，AGI 的评估可能会被充满激情的人类指挥官所超越。同样，就战争的互惠性质而言，如果对手是人类代理，AGI 可能会被迫使用暴力来应对非理性的决策。相反，如果它面对的是另一个纯粹理性的实体，或者亨廷顿的军民关系概念仍然有效，即使 AGI 负责军事行动，那么 AGI 指挥官可能会计算出一场战斗或战争不应该发生。矛盾的是，AGI 指挥官可能会同意，解决战斗的最有效方法是计算可能出现的结果，并根据这一共同结论销毁自己的资源。他们会坚持有效的 "破坏性原则的主导地位"，但会使战争变形，并明确战争是一种自我暴力的行为。

b. 目的与AGI

有意识的、因而也是有意的AGI必须有一个合理的目的，才能诉诸战争和暴力或自我暴力。如果人工智能没有自由选择的目的而采取暴力行动，如果它 "叛变"，那么这就不是战争：而是一场非自然的灾难。与此同时，我们也不清楚人工通用智能的合理目的是什么。人类有生物动机和情感，这些需求与我们的行为息息相关。目前还不清楚人工智能是否会有动机，或者在其进化过程中是否会出现一些非人类的动机。明斯基认为，自由意志是由一种 "强烈的原始防御机制 "发展而来的，它可以抵制或拒绝强迫。如果这是真的，我们至少可以假设有意识的人工智能会试图保护自己。遗憾的是，这并没有说明人工通用智能是否会理解人类的动机，以及相对于现实的其他部分，它将赋予自身多大的价值。

c. 社会要素与AGI

另一个需要考虑的因素是，人类和人工通用智能对于什么是暴力行为及其严重程度可能有不同的认识。此外，作为人类，我们可能无法理解超智能生物的思维过程。这种对目的和手段的不理解破坏了战争作为一种社会制度的定义：我们不会对猿或猫发动战争，同样，AGI 也不会与我们开战。有趣的是，如果 AGIs 能像 ALife 所说的那样，发展出自己的具有规范和共同理解的社会，这就意味着他们有可能为了 AGIs 的社会动机而发动 AGI 社会战争。

总的来说，除非 AGI 将人类视为威胁，否则它们可能对人类的战争不感兴趣。我们可能需要一个新词来识别这些新的社会互动。同时，在 AGIs 的协助下，人类之间的战争是不可能被排除的，因此探索其性质可能会如何变化是非常重要的。

它会改变战争的性质吗?

战争的性质是什么?

战争的本质被提炼为克劳塞维茨所说的 "奇妙的三位一体"。其要素是：a) 暴力、仇恨和敌意；b) 机率和概率的作用；c) 战争从属于政策和理性的要素。

a. 克劳塞维茨认为敌对有两种类型：敌对情绪或敌意和敌对意图。敌意本质上是政治性的，是战争发生的必要条件，可以在没有敌意的情况下存在。敌意的强度是可变的，如果没有敌意，战争将是一种代数练习。

b. 克劳塞维茨指出，战争是概率的领域。不利的情况是由摩擦造成的：道德和体力消耗（危险和消耗），以及缺乏知识和运气不佳（不确定性和偶然性）。估计这些因素的影响需要判断和近似值，因为案例数量极多，无法用数学方法计算。人类有限的认知能力迫使指挥官做出 "足够好 "的决定。

c. 克劳塞维茨坚定地认为，战争具有理性成分，它不是 "自主的东西，而总是政策的工具"。政治家和指挥官的职责是确定 "他们正在进行的战争的类型；既不误认为战争，也不试图将战争转变为与其性质格格不入的东西"。他们在这样做时不应被敌对情绪所蒙蔽，并应正确判断可能性。

a. 敌意与AGI

表面上看，一个完全理性的实体不会受到敌意等情绪的影响。正如我们所讨论的，即使是有意识的 AGI，除了自卫之外是否还有其他目的也不清楚。不过，我们可以想象，AGI 可能会把自己看得如此珍贵，以至于任何人类活动都会被视为敌意。因此，AGI 可能会处于一种持续的人工智能恐惧状态中，这种恐惧被定义为一种超理性的激情，与我们生物学上的恐惧截然不同，并且会产生敌对情绪和意图。非人化的感知 "可能会助长暴力和野蛮行为，甚至在意识到自己在做什么的情况下进行灭绝。

b. 机率与AGI

超级智能爆炸最终将成为具有完美知识和微积分的渐近线，有效地实现所谓的 "拉普拉斯恶魔"。从理论上讲，这个实体几乎不会受到任何摩擦：它会立即根据事件进行调整，并坚持不懈地努力。这是代数学对战争的完美实现，与三位一体的战争理念格格不入。实际上，完美的知识是不可能的，因为存在非线性动力学：不可能消除现象表征与实际情况之间的不匹配。然而，与人类相比，人工通用智能不会受到任何摩擦。

正如艾伦所言，在人类的控制下，我们的指令只会成为一种约束和弱点，重心（Schwerpunkt）将变成行动的速度和效果本身。拥有近乎完美知识的战争将不再是人类军事天才的领域，正如范-克雷维尔德总结的那样，"战斗没有意义，因为它既不能作为一种考验，也不能作为一种乐趣"。

c. 政策与AGI

几乎无摩擦的军事活动的加速带来了对其进行政策控制的问题。我们假定，有意识的人工通用智能始终控制着自己的手段，并能对反应和升级进行调解。当人类可以获取超智能但无意识的人工智能的力量时，问题就出现了。如果你知道敌人会无情地攻击你，你就必须做好无情防御的准备。这可能会转化为无意识的加速升级和暴力。无意识人工智能可以被编程为在政策限制范围内行动，但这仍然是冲突开始后政策作用减弱的原因。

归根结底，研究战争的本质在更接近人工智能超级智能和意识的情况下可能发生的变化表明，在一些极端情况下，三位一体中的一个或两个元素可能会崩溃，变得无关紧要。令人意想不到的是，只有激情可能仍然是不变的元素。

结论

Alloui-Cros的文章证明，即使是狭义的人工智能也不会改变克劳塞维茨理论的正确性。本文推测，超智能和有意识的 AGI 可能会改变这一理论。看来，与超智能、有意识的 AGI 之间的互动和冲突有可能成为一种新的社会互动，其意义不同于纯粹的 "人类 "战争。按照这一逻辑，AGI 不会改变战争的性质，但 "AGI 战争 "将有其不同的性质。尽管如此，"人类 "战争不可能消失，而接近超级智能和意识的 AGI 的参与有可能改变战争的性质。

布罗迪认为，可汗的《热核战争论》是对克劳塞维茨的 "有益补充，但丝毫无助于取代克劳塞维茨"。如果出现 AGI，并预期其具有超级智能和意识，我们可能需要进一步扩展克劳塞维茨的理论，即 "论 AGI 战争"。