2023最新干货书《人工智能与赛博空间的国际冲突》

这本书探讨了人工智能(AI)如何改变赛博空间的国际冲突。

过去30年，赛博空间发展成为国际冲突的重要前沿和热点。然而，关于人工智能与赛博空间冲突之间关系的学术研究是沿着某种严格的学科界限和更严格的社会技术鸿沟产生的，其中技术和社会学术很少被带入对话。这是通过全面和跨学科的方法来解决这些主题的第一卷。目的是探讨“通过人工智能在赛博空间的国际冲突中使用自动化会带来什么风险?”，本卷的章节侧重于三个广泛的主题，即(1)技术和操作，(2)战略和地缘政治，(3)规范和法律。这些也构成了本卷的章节组织的三个部分。

这本书适用于对赛博冲突、人工智能、安全研究和国际关系的读者。

提纲

• 1 人工智能与赛博空间的国际冲突
• 第一部分 技术和操作挑战
  • 2 不可知的冲突：追踪AI、识别和(人类)循环的死亡
  • 3 混合战和信息战中的人工智能：一把双刃剑
• 第二部分 战略和地缘政治挑战
  • 4 算法的力量?人工智能在欧洲战略自主中的作用
  • 5 中等强国的中间力量困境：在巴西、印度和新加坡，支持人工智能的服务是赛博冲突的场所
  • 6 人工智能与军事优势：“赛博-人工智能攻防军备竞赛”如何影响美国对完全一体化战场的愿景
• 第三部分 规范和法律挑战
  • 7 国防领域人工智能的伦理原则
  • 8 震网是下一个天网吗?作为致命自主武器系统的自主赛博能力
  • 9 选举干预背景下的先进人工智能技术和不干涉原则：对强制“苛求”要素的挑战?

人工智能与赛博空间的国际冲突

1.1 引言

在过去三十年中，赛博空间发展成为国际冲突的重要前沿和热点。与最初对在赛博空间内或通过赛博空间爆发全面战争的恐惧预期相反，这场冲突越来越“远离”传统的战争与和平的范畴和门槛。正如卢卡斯·凯洛(Lucas Kello)所说，赛博空间既不是真正处于战争状态，也不是真正处于和平状态，而是一直处于“不和平”状态。赛博空间的国际冲突主要发生在所谓的灰色地带，通常涉及信息、数据及其操纵领域，最终以间谍、破坏和颠覆行为告终。经验证据压倒性地表明，赛博空间的对抗主要由低影响的黑客攻击、间谍活动、虚假信息和监视组成。鉴于此，最近的学术工作质疑我们是否应该将赛博空间中的冲突视为“情报竞争”，而不是通过传统战争的镜头。与此同时，这并不意味着我们应该将赛博空间视为互联网早期赛博自由主义者所设想的和平、但不受管制和无法治理的绿洲——恰恰相反。各国传统上将赛博空间视为国家安全问题，越来越多地通过赛博空间的防御战略和进攻行动来维护和促进国家利益。

在数据和信息变得越来越重要的背景下，人工智能(AI)的发展和应用在有关赛博空间国际冲突的各种话语中获得了动力，这并不奇怪。人工智能技术——如机器学习、自然语言处理、量子计算、神经网络和深度学习——为军事和情报机构提供了新的作战解决方案，用于预测和应对威胁，以及在赛博空间开展进攻性行动。除了自动化生产有关赛博威胁的知识外，人工智能还可以自动化决策，这可能会“稀释”(人类)政治机构作为赛博空间国际冲突因素的作用。关于致命自主武器系统(LAWS)的国际辩论的核心问题也将进入关于赛博冲突的辩论。此外，人工智能技术在赛博空间的作战纠缠进一步模糊了已经存在争议的赛博空间防御与进攻之间的界限，同时也挑战了网络冲突与信息作战之间的界限。除了开辟新的作战环境外，采用人工智能增强的网络能力也代表了各国的一项重要战略资产，因为正在进行的采用这些技术的全球竞赛完全嵌入了更广泛的地缘政治冲突、威慑、证券化战略和技术民族主义叙事，例如关于数字主权的叙事。

人工智能技术与网络冲突的纠缠引发了几个问题，主要与人机交互、(大)数据在社会中的作用、大国竞争和监管有关。在创造科学和数据驱动安全的“幻觉”的同时，将安全功能委托给独立的机器可能会使网络暴露于由于自治和自动化而出现的各种新风险。数据机械处理中的潜在偏差可能导致误判，并为人工智能声称要保护的系统创造更广泛的“攻击面”和漏洞。同样，获取这些技术的全球竞赛也有可能进一步加剧和两极分化赛博空间的国际冲突。由于这些原因，人工智能技术也作为一个规范问题在赛博空间中负责任的(国家)行为的道德和法律辩论中引起了人们的兴趣——尽管关于自主性的辩论还没有完全从军事领域“适当”跨越到网络冲突领域。正如本卷所示，可能需要特定的监管框架和立法来捕捉人工智能，将其视为对国家安全以及一些国家寻求维护的“开放和安全”赛博空间的潜在资产和威胁。

目的是探讨“通过人工智能在赛博空间的国际冲突中使用自动化会带来什么风险?”，本卷侧重于三个主题，即:(1)技术和操作，(2)战略和地缘政治，(3)规范和法律。这些也构成了这一卷的章节组织的三个部分。关于人工智能和赛博空间冲突之间关系的学术研究是沿着某种严格的学科界限和更严格的社会技术鸿沟产生的，其中技术和社会学术很少被带入对话。本卷通过全面和跨学科的方法解决这些主题。从这个意义上说，组织在三个部分的体积不应该被认为是一个分析，甚至更少，学科划分。本导论章的其余部分概述了本卷三部分的主要辩论，并提供了背景。

1.2 技术和操作方面的考虑

人工智能已经成为我们这个时代的决定性技术，似乎是每个人都想要的、每个人都关心的终极创新的缩影。“各国通常对新技术持技术乐观态度，并积极看待通过自动化合理化和完善治理的前景，人工智能目前被应用于广泛而多样的治理领域和问题。”“人工智能”概念的吸引力可能最好地体现在这样一个事实上:政府(以及政府之外)的许多应用仍然被更恰当地称为“经典”自动化，而不是人工智能或在系统中引入自治。然而，人工智能的发展确实开始渗透到传统治理中，通过扩大可实现有意义自动化的操作的范围、规模和复杂性，包括与网络安全相关的操作。然而，与其他治理分支相比，人工智能技术在网络安全中的应用代表的创新较少。例如，早在20世纪90年代，机器学习和神经网络就被应用于过滤和分类垃圾邮件。毕竟，自动化构成了互联网技术和计算的固有特征。相对较新的，也是本卷主要感兴趣的是赛博空间冲突的国际化和“满足”，人工智能的潜力标志着通过自主进入一个新的操作阶段。

从操作角度来看，人工智能技术有望为赛博空间国际冲突的核心动态之一做出贡献:通过及时有效地解释数据(无论是防御还是进攻)来识别漏洞。也就是说，人工智能有可能使赛博空间的冲突变得更加可知和可预测。当考虑到赛博空间国际冲突背景下的自动化和机器自治方面时，智能机器在不同程度的独立下做出操作选择的能力指向了谁是赛博空间国际冲突的实际执行者的问题。正如本卷第三部分将进一步讨论的那样，这个问题不仅是分析性的或技术性的。知道谁是赛博空间冲突的始作俑者也与责任问题密切相关。在代理似乎已经被赛博和社会技术组合稀释的背景下，探索ai -网络联系的主要手段是探索人与机制的互动。

自主性和人工智能的问题提出了一个与人类在所谓的操作决策“循环”中的“位置”相关的操作疑问。这种困境在关于法律的辩论中已经被明确表达出来，其核心问题仍然是人类是否应该被置于这个循环之中，之上或之外。在本卷的第2章中，Andrew Dwyer通过分析深度强化学习(RL)算法的作用，直接解决了这个问题，质疑人工智能技术使赛博空间中的冲突更加可知的假设。它认为，通过识别、执行和改变赛博空间国际冲突的对象、地点和方式，人工智能不仅仅是一种改善运营的认知工具。从这个意义上讲，本章还使关于可控制和道德上负责任的人工智能系统以及人类“在”循环中的位置的规范性考虑复杂化。

人工智能对赛博安全的核心技术承诺之一包括蒂姆·史蒂文斯(Tim Stevens)所定义的“从已知威胁到未知威胁的预测，再到预期状态”的转变，这在关键的安全文献中受到了广泛关注。在第三章中，Wesley Moy和Kacper Gradon探讨了人工智能在虚假信息和错误信息传播中的各种潜在应用，以及在混合和不对称战争的背景下。通过分析两种方法——即“生成对抗网络”和“大型语言模型”——本章解释了人工智能在理解链接如何形成、信息如何传播以及信息如何影响社交网络中的意见和行动方面的相关性。总而言之，本卷第一部分的贡献表明，虽然提高了运营效率，但人工智能应用并不一定“使”国际冲突更加已知/可预测，网络安全更加以人为中心。相反，自主性和自动化进一步助长了将赛博空间理解为主要是技术和操作问题或领域的问题。

1.3 战略和地缘政治考虑

超越其技术可能性和操作困境，人工智能将成为数字时代经济、政治和军事力量的宪法组成部分。随着大国竞争的回归以及国家之间在赛博空间的不断争夺和对抗，人工智能正在经历一个证券化的过程，将这种主要用于民用的双重技术转变为国家安全和主权问题。因此，人工智能已经完全成为有争议的全球“数字军备竞赛”的一部分，引发了人们对将其用于攻击目的的更广泛风险的重大担忧。这种演变并不令人惊讶。这与过去30年来赛博空间的更广泛的证券化是一致的，这种证券化迅速(但并不总是正确)与国家话语中的军事化联系在一起。

自2010年以来，随着越来越复杂和有针对性的国家支持的赛博攻击的兴起，赛博空间成为了证券化的必要条件，也是一个需要动用特殊手段的新作战领域。鉴于这一领域面临的复杂挑战，例如犯罪组织对个人利益构成的威胁，既可能损害最终用户的安全，也可能损害赛博空间本身的安全与稳定，将赛博空间主要视为对国家安全的威胁并非不言自明。其他可能占据上风的特征，如经济风险、犯罪危险或对个人用户隐私的威胁，越来越多地让位于国家和国际安全问题。用互联网治理学者米尔顿·穆勒(Milton Mueller)的话来说，“网络安全正在吞噬互联网治理”，并正在推出替代框架。安全框架已逐步扩展到包括人工智能在内的所有可能在数字战争背景下武器化的数字技术，并推动了数字技术的国际竞争。美国和中国在数字技术的生产、控制、使用和治理方面的激烈竞争体现了这种竞争，并日益影响着这种竞争。亚当·西格尔(Adam Segal)认为，在20世纪90年代和21世纪头十年，中美经济一体化被认为在政治和经济上都是互利的，但政治决策者现在认为风险大于收益。在两国的言论中，安全问题都是竞争的核心。值得注意的是，中国已经启动了一项庞大的计划，到2030年成为人工智能领域的世界领导者，拥有1500亿美元的产业。也就是说，人才争夺战已经打响

少数国家在人工智能能力方面的领导地位也揭示了许多其他国家令人不安的战略依赖。这在欧盟引发了一场辩论，讨论与这些依赖相关的风险，以及确保数字主权的战略自治的必要性。但推进人工智能技术似乎是解决这些问题的有限政策选择。在第四章中，Simona Soare质疑人工智能在促进欧洲安全和防务领域战略自主方面的作用。她认为，采用人工智能是一种“分心”，因为它在欧洲防务中引入了额外的复杂性，同时对欧洲的战略自主没有重大贡献。一方面，由于欧盟在防务领域的内部运作，将人工智能整合到欧盟的决策过程和行动中是具有挑战性的。另一方面，工业能力的缺乏和对其他大国的战略依赖是真实存在的，可能很难克服。在第五章中，阿伦·莫汉·苏库马尔同样论证了依赖人工智能会带来风险和战略依赖，正如新兴大国的例子所示。本章通过巴西、印度和新加坡卫生部门的例子，审查人工智能在公共服务发展中的作用。报告显示，尽管各国被敦促提高数据透明度并为其人民开发数字服务，但它们面临着新的风险，这些风险可能会在数年内阻碍各国关键任务系统的数字化进程。也就是说，他们面临着进一步数字化和接受更多安全风险之间的权衡，这个例子表明，不仅要从技术/运营角度考虑人工智能与网络的联系，还要考虑更广泛的战略影响。

世界各地的武装部队也认识到人工智能网络关系的战略意义，并同样参与了其行动的深刻数字化转型。一方面，这大大增加了他们对数字技术和数据的依赖。另一方面，它也带来了新的风险和脆弱性。士兵在新的数字环境中进化，深刻地改变了他们的操作方式，并创造了有时难以完全理解和管理的新挑战。在这种环境下，人工智能提供了有希望的新能力，以提高情报质量、态势感知、训练条件、远程操作能力、武器系统的精度和自主性，最重要的是，行动的速度和范围。因此，对人工智能的竞争也是对军事力量和优势的竞争，并再次提出与作战问题密切相关的战略问题。这种表现与美国军事文化中根深蒂固的观点产生了共鸣，即技术可以提供军事优势。在第6章中，Jeppe Jacobsen和Tobias Liebetrau认为，这种愿景可以追溯到人工智能之前的很长一段时间，并且自20世纪70年代的第二次抵消战略以来一直主导着美国的军事话语。也就是说，人工智能代表的是一种运营创新，而不是战略创新。

在进一步证明大国竞争将回归的同时，军事优势战略也助长了技术引发的恐惧，并推动了发展进攻而非防御，以保持对敌人的优势。但是，考虑到网络环境的高度动态性，人工智能支持的网络能力也可能传达出一种控制的想法，这种想法在赛博空间中即使不是虚幻的，也是困难的。它也没有考虑到人工智能技术带来的漏洞和相关风险。事实上，随着社会和武装部队的数字化转型，攻击面不断增加。虽然人工智能可以大大提高防守，但对进攻的强调可能是风险的来源。Jeppe Jacobsen和Tobias Liebetrau证明，网络军备竞赛不仅是大国之间对人工智能网络能力的竞争，而且是由人工智能驱动的进攻性和防御性网络能力之间的具体军备竞赛。考虑到有关军队如何在赛博空间平衡攻防的讨论的教训，他们得出结论，人工智能增强的网络进攻能力可能占据主导地位。然而，人工智能在很多方面可能适得其反。随着我们的社会越来越依赖数字技术，人工智能技术的证券化可能对网络(in)稳定性的整体水平产生重要的溢出效应。正在进行的数据竞赛及其对战略优势的利用进一步模糊了军事和民用行动之间的界限，给私营部门和民间社会带来了不可避免的后果，提出了新的法律和规范挑战。

1.4 规范和法律方面的考虑

基于上述技术/操作和战略/地缘政治考虑，有必要规范人工智能技术在赛博空间的采用和使用。一方面，赛博能力的发展，另一方面，人工智能及其在赛博冲突中的可能应用，给国家和其他行为者带来了两难境地:他们对这些新技术感兴趣——尤其是为了增强自己的作战能力和战略姿态——但同时，他们又担心这些发展对国际和平与安全的潜在后果。这种困境是本卷最后第三部分的核心，它涉及人工智能在赛博空间应用所提出的规范和法律问题。为了理解这些，本节还介绍了这些规范和法律讨论嵌入并与各国战略考虑深深交织在一起的国际进程。

在国际网络安全问题上，联合国大会于1998年12月通过了第一项关于“国际安全背景下信息和电信领域的发展”的决议。自2004年以来，联合国大会就这一主题连续设立了六届政府专家组。第一届和第五届政府专家组未能通过协商一致的报告，据说是因为在讨论国际法的具体分支方面存在分歧。2017年6月，第五届政府专家组未能通过共识报告，导致各方对如何开展工作存在分歧。2018年，这导致通过了两项同时通过的决议，并创建了两个基本相同任务的平行进程。除第六届政府专家组外，还设立了一个不限成员名额工作组。2020年，新的OEWG成立，将持续到2025年，而截至目前，还没有新的GGE计划。此外，自2020年以来，一些国家正在倡导就此主题开展新进程，即制定《行动纲领》，以促进赛博空间负责任的国家行为，该行动纲领于2022年11月受到联合国大会原则上的欢迎。第二届、第三届、第四届和第六届政府专家组以及第一届OEWG成功地通过了协商一致报告。这些报告特别肯定了国际法适用于赛博空间，并列举了在这方面特别相关的具体国际法规则和原则。他们还列出了11项赛博空间负责任行为准则。这些报告合在一起构成了赛博空间负责任国家行为的框架，其中包括国际法和非约束性规范，以及能力建设和建立信任措施。有趣的是，在这本书的背景下，尽管在2019-2021轮谈判中讨论了人工智能应用的发展，但在GGE或OEWG的报告中从未提及人工智能应用的发展。虽然这个问题没有被列入2021年的共识报告，但在OEWG进程的所谓主席总结中，它在其专门讨论“威胁”的部分中占据了重要地位:“在ICT运营中追求越来越多的自动化和自主性，以及可能导致连接减少或中断、意外升级或对第三方产生负面影响的行动，都被作为一个具体问题提出。”此外，无论是在联合国谈判的背景下，还是在谈判之外，各国和其他行为体都开始对自动化和自主在网络行动中的作用表示担忧。

关于人工智能国际安全层面的讨论一直侧重于法律的制定。2013年，《禁止或限制使用某些常规武器公约》(CCW)缔约方会议将这一事项列入议程。经过几次非正式会议，这些讨论走上了与国际网络安全类似的道路，2016年成立了政府专家组，并于2019年通过了11项法律指导原则。通过这些原则，专家组确认了国际法，特别是国际人道主义法以及一系列道德和非约束性原则的适用性。令人惊讶的是，在第六项原则中，网络安全只是作为“在开发或获取基于致命自主武器系统领域新兴技术的新武器系统时应考虑的适当的非物理保障措施”之一被简单地提到。然而，没有提到自主网络能力。尽管网络安全和人工智能之间的联系是在经合组织和联合国教科文组织关于人工智能伦理的建议中提出的，但这两份文件都避开了国家和国际安全。因此，到目前为止，在联合国第一委员会中，“网络”和“人工智能”似乎是夜间经过的船只。

这种“缺席”是本卷第三部分的核心。在国际层面上利用这一真空。Taddeo、McNeish、Blanchard和Edgar在第7章中讨论了定义道德框架的努力，以指导人工智能在国内国防领域的使用——通过英国的案例——并提出了一个可能的框架，围绕五个原则阐述:合理和可推翻的使用;公正和透明的制度和程序;人类的道德责任;有意义的人为控制;最后是可靠的人工智能系统。这些伦理考虑的核心是技术自主和需要某种形式的人类控制、参与或推翻的问题:再一次，人类在“循环”中的位置?回到国际层面，在第8章中，路易斯·佩雷斯(Louis Perez)在讨论如何将当前的法律方法应用于自主网络行动之前，在联合国网络问题和法律问题上进行了不同的讨论。在反思法律的定义时，本章讨论了自主网络能力是否可以被视为法律的关键问题，从而受到《常规武器公约》框架下有关国际法和道德的讨论的关注。在第9章中，杰克·肯尼将重点放在国际法的一个具体原则上，即不干涉原则，这一原则已被GGE和OEWG广泛讨论。在这些讨论的基础上，以及现有的关于这一原则在赛博空间中的应用的学术研究，本章着眼于自动化对这一原则提出的具体挑战，并特别关注其强制要求。通过回到前面讨论的操作困境之一，本章通过分析与使用具有一定程度自主权的网络手段干预选举过程有关的不同例子来阐明这一规范性讨论。

本卷的第三部分也是最后一部分表明，联合国层面的辩论还需要一段时间才能有意义地解决人工智能技术与赛博空间冲突之间的交集。这有几个原因，这与前面概述的技术/业务和战略/地缘政治观点有关。首先，大多数富裕和顶级(网络)军事国家往往不愿放弃可能改变游戏规则的新军事可能性。美国、以色列和俄罗斯等积极发展法律的国家在GGE谈判中拖拖拉拉。历史并没有提供太多证据证明武器在使用之前就被禁止了。此外，在政治上，一些主要谈判方之间的信任水平目前处于低点。美国正日益与中国展开对抗性竞争——中国是“人工智能之冠”的主要竞争者之一——自从俄罗斯入侵乌克兰以来，许多国家都在积极地试图制裁和孤立俄罗斯联邦。当涉及到新的军事和网络技术时，这不是讨论约束作为治理机制的理想情况。最后，两个联合国进程之间的任务不匹配。联合国法律专家组——顾名思义——明确关注与武器相关的特定技术(人工智能)。联合国网络安全专家组将国家行为作为其建议的焦点，通常旨在尽可能保持技术中立。如果要在这些过程之间架起一座桥梁，就必须建立在对技术如何影响或改变网络冲突中的国家行为的合理推理之上。诸如“国家控制”是否仅在有意义的人为控制下存在，还是在“系统控制”的情况下也存在，以及自动化和/或自主网络攻击是否存在或可能存在歧视等问题可能是该问题的核心。换句话说，只有将人工智能与赛博空间冲突之间的关系理解为一种综合现象，并嵌入更广泛的地缘政治冲突中，国际社会才能真正推进有意义的监管。