数字不确定性的爆炸性增长：AI威胁

最近，生成式人工智能（AI）的进步吸引了公众、企业和政府的想象力。印度政府最近也发布了一份关于当前人工智能浪潮带来的机遇的综合报告。印度 IT 行业的领导者几乎可以肯定，这股人工智能浪潮将导致技能领域发生根本性变化，并隐含着潜在的威胁和危险。

对影响知之甚少

与此同时，数字不确定性呈指数爆炸式增长。很少有人能够完全理解新威胁的本质，这种威胁在过去几十年甚至几个世纪都未曾出现过。也很少有人意识到，让我们的生活和经济运行在可以说是肥沃的数字表土上意味着什么。意识到由此产生的内在问题的人就更少了。

人们常说，数字基础设施是建立在一层又一层无所不知的机器智能、人类编码的软件抽象和不可依赖的硬件组件之上的。每一层都通过复杂和深度嵌入的协议相互连接。由于对这些方面的理解范围狭窄，绝大多数人对其影响一无所知。更不为人所知的是，这种复杂性会产生漏洞。

毫无疑问，网络已引起了一定程度的关注，但人们对当今认知战的性质却知之甚少，或者说没有真正了解。认知战真正与现代战争的其他要素（如海上、空中和太空领域）并驾齐驱。认知战重视复杂的技术，其目的是破坏机构（尤其是政府）的稳定，以及由强大的非国家行为者操纵新闻媒体等。认知战是一门利用技术手段改变人类目标认知的艺术，而人类目标往往对这种企图毫无察觉。

其最终结果除了破坏保密性和丧失治理能力之外，还可能导致信任的丧失。更危险的是，它可能利用复杂的心理操纵技术改变人们的行为。

鉴于新兴技术层出不穷，今天的企业和政府都面临着一场大决战。所使用的方法非常隐蔽。例如，在当今世界较先进的国家中，近三分之一的公司在无形资产方面的投资超过了有形资产，这使它们直接面临人工智能的风险。另据估计，500 强企业 50%以上的市值都在无形资产上，因此它们也极易受到影响。随着大大小小的公司斥资数十亿美元迁移到云端，越来越多的传感器不断发送敏感信息，风险以几何级数上升。所有这些都预示着一个黑暗而非勇敢的新世界秩序，而这正是我们所希望的。

因此，数字不确定性正在迅速演变为根本不确定性。如今，政府和政府机构正在花费大量资源来消除错误信息和虚假信息的影响，但这可能还不够。人们对信息的本质是如何被操纵的，以及人工智能在多大程度上推动了这些急剧变化，还缺乏足够的了解。所有这一切只能被称为 "真相衰落"。

通用人工智能的出现

如果说人工智能是世界目前正在考虑的严重威胁，那么我们看到的只是冰山一角。随着越来越多的人在认知和心理上依赖数字网络，人工智能能够影响他们思维和运作的许多关键方面。让人既兴奋又恐惧的是，人工智能的许多进步现在都是由机器自己创造的。我们迟早会见证通用人工智能（AGI）的出现--人工智能与人类智能相当，甚至更胜一筹，它将渗透到全新的领域，取代人类的判断力、直觉和创造力。

AGI 即将到来的曙光比我们迄今遇到的任何其他事物都更具破坏性和危险性。人们真正担心的是，它可能会改变民族国家的结构，撕裂全球各地真实和想象中的社区。社会和经济不平等将成倍增加。社会无政府状态将统治街头，正如我们在一些最靠近技术创新中心的城市所看到的那样。它有一种与生俱来的能力，那就是用伪装成真相的虚假内容充斥整个国家，用听起来异常熟悉的虚假声音模仿已知的声音。这可能导致信任概念的崩溃，即对所说、所读或所听内容的信任，并可能导致信任金字塔的倾覆，造成灾难性后果。

AGI 将使高度自主的系统在许多领域超越人类，包括经济（有价值的）工作、教育、社会福利等。AGI 系统将有可能做出不可预测和不可控制的决定，这可能会产生意想不到的后果，往往是有害的结果。目前还很难理解它的多种表现形式，但工作岗位的迁移和经济的迁移将是几乎所有人类相关活动海啸的最初症状。数字数据反过来又会转化为数字智能，从而扩大破坏和控制整个行业的范围。这将加剧不平等，加剧社会差距，加剧经济差距。

因此，AGI 可能会像 18 世纪的工业革命一样，彻底改变 21 世纪世界的游戏规则。它几乎肯定会导致地缘政治力量对比的实质性改变，而且是以前所未有的方式。随着以 AGI 为基础的权力中心集中在少数几个特定地点，数字殖民的阴影将笼罩全球。因此，AGI 驱动的破坏可能会催生数字殖民时代的到来。这将导致一种新的剥削形式，即数据剥削。其最恶劣的形式是出口原始数据，进口使用这些数据的增值产品。简而言之，基于 AGI 的权力集中与古老的东印度公司综合症有着惊人的相似之处。

我们可能正处于 "奥本海默时刻 "的风口浪尖，世界正处于计算科学、通信和工程学以及新技术伦理的十字路口，而我们尚未完全理解这项技术的力量和潜力。控制、甚至停止最先进的 AGI 的发展，或者不允许对该技术进行不受约束的实验可能并不容易，但另一种选择是，它有可能以远远超出预期的方式塑造世界的本质。如今，人工智能似乎在模仿推理的形式，其能力已接近人类的思维方式。这是一种新的军备竞赛，但种类不同，而且才刚刚开始。也许，这需要国家与技术部门之间更紧密的合作，但说起来容易做起来难。

哈马斯-以色列冲突

最后一句话。在某些情况下，人工智能可以被巧妙地利用和操纵，当前的哈马斯-以色列冲突（有时被称为 "赎罪日战争 2023"）可能就是这种情况。一些专家将以色列在情报方面的巨大失败归咎于以色列过度沉迷于人工智能，而哈马斯则巧妙地利用了这一点。人工智能本质上依赖于数据和算法，哈马斯似乎使用了潜规则，通过扭曲流入以色列人工智能系统的信息流来掩盖其真实意图。一些专家称，哈马斯因此能够蒙蔽以色列情报部门和以色列最高指挥部。要吸取的教训是，过度依赖人工智能并相信其不可战胜，可能会像 "马儿跑了之后锁上大门 "一样带来灾难性后果。

作者：印度前国家安全顾问纳拉亚南（M. K. Narayanan）