《人工智能对军事防御与安全的影响》，28页pdf， 加拿大智库国际治理创新中心

摘要

以人工智能为代表的新兴技术正在开创一个新时代，作为一种力量倍增器，人工智能能够重塑战争规则，因而对军事防御和国家安全至关重要。在大国竞争和世界多极化的背景下，人工智能正在成为竞争焦点。报告详细论述了人工智能在提升军事情报能力、重塑军事指挥控制平台、打造先进网络平台、推动自主性武器发展中的作用，提出在人工智能军事化发展中，构建制度性条例对于减少未来冲突至关重要。

**内容目录：**1　以人工智能为代表的新兴颠覆性技术正在开创一个新时代2　人工智能是一种动态创新3　美国、加拿大重金打造人工智能4　人工智能的军事应用4.1　提升情报能力4.2　重塑军事指挥控制系统4.3　推动自主武器系统的发展4.4　打造先进的网络平台4.5　促进无人机群与机器人迅速发展4.6　使“马赛克战”应运而生4.7　对抗性攻击不可避免5　加强人工智能的全球治理6　结　语

加拿大智库国际治理创新中心（Centre for International Governance Innovation，CIGI）2022 年3 月 7 日发布了《人工智能对军事防御和安全的影响》（The Impact of Artificial Intelligence on MilitaryDefence and Security）。该报告立足于加拿大国防政策，概述了人工智能的军事用途以及促进人工智能赋能的下一代军事行动所需的制度和技术的发展。

1

以人工智能为代表的新兴颠覆性技术正在开创一个新时代

从人工智能、机器人技术到分布式记账技术（Distributed Ledger Technologies，DLT）、物联网（Internet of Things，IoT），新兴的颠覆性技术开辟了商用创新的新时代。技术变革引发的社会和经济变革，对加拿大军事力量的发展有着巨大影响。这些技术包括人工智能与机器学习、量子技术、数据安全及计算机辅助硬件等。 人工智能作为一种力量倍增器，能够重塑战争规则。在大国竞争和世界多极化的背景下，人工智能正在成为竞争焦点。正如北大西洋公约组织（以下简称“北约”）的指导意见称，“人工智能技术对于加拿大及其盟国的军事防御和安全至关重要。”当前，数据和数据驱动技术占据了全球经济的制高点，全球数据经济的竞争与大国竞争密不可分。 中国、俄罗斯、美国和许多其他国家都在积极探索人工智能及其应用，并把重点聚焦于国防和国家安全。目前，北约仍然是人工智能领域的领头羊，具有较强的技术优势，中国正在迅速追赶。中国政府希望到 2030 年能够在人工智能领域引领世界，并通过充分利用大量数据，扩大其在人工智能产业化方面的领先地位。虽然美国在人工智能方面已经确立领先地位，但是预计中国今后将主导人工智能的产业化。因为中国不仅具有先进的商业能力，而且还具有持续的国家战略。

2

人工智能是一种动态创新

关于人工智能的概念，人们已经讨论了很多，准确来说，人工智能不仅是一种动态、特定的技术和创新，更是先进技术的组合。目前，人工智能技术已成为许多重要应用的基础，包括网络搜索、医疗诊断、算法交易、工厂自动化、拼车和自动驾驶等。 人工智能研究始于 20 世纪 40 年代，随着机器学习和计算机处理能力的提高，引发了人们对它的极大兴趣。人工智能的发展与人脑的多级学习和推理能力相似。当与大数据和云计算相结合时，人工智能就可以通过将“智能”的系统连接到 5G 网络的系统和设备来“认知”数字技术。 作为人工智能的一个子集，机器学习是人工智能最典型的应用。机器学习利用统计技术，使机器能够在没有明确指令的情况下“学习”，驱动应用程序和服务，提高分析的自动化程度。这种通过数据来自动提高性能的过程被称为“训练模型”。机器学习最常见的应是深度学习，即利用多层的人工神经网络来复制人工智能。深度学习架构，例如深层神经网络、递归神经网络和卷积神经网络能够为计算机在视觉、语音识别、机器翻译以及自然语言处理等广泛的研究领域提供支持。

3

美国、加拿大重金打造人工智能

人工智能是新兴颠覆技术的核心。目前，美国仍然是人工智能领域的全球领先者。美国国家科学基金会（National Science Foundation，NSF）每年对人工智能研究的投资为 1 亿多美元，美 国 国 防 高 级 研 究 计 划 局（Defense Advanced Research Projects Agency，DARPA）最近提出了“下一代人工智能”项目，计划投入 20 亿美元，目标是提高情景式推理和自适应推理能力。 加拿大也一直是人工智能领域的领头羊，在 2017 年 “人工智能战略”的指导下，加拿大的人工智能生态系统发展迅猛，而且政府每年都将增加国防开支，并将重点放在新兴颠覆技术上。目前加政府已经承诺将投入大量资金研发人工智能，在过去 10 年里，加政府投入了 4.438亿美元。根据加政府 2021 年的预算报告，其中1.85 亿美元用于支持人工智能研究的商业化；1.622 亿美元用于在全国范围内招聘顶尖学术人才；0.48 亿美元用于研究所；0.4 亿美元用于增强埃德蒙顿、多伦多和蒙特利尔国家人工智能研究所研究人员的计算能力；0.086 亿美元用于促进与人工智能有关的标准的制定和采用。 与传统军事技术的发展不同，没有哪个国家能够垄断人工智能的军事应用。研究人员和企业之间广泛的合作意味着人工智能和机器学习将进一步在全球应用，因此，未来的许多军事应用很可能直接采用针对商用开发的技术。

4

人工智能的军事应用

人工智能是一个能够对商业和军事技术领域产生广泛影响的领域。人工智能的广泛应用意味着该技术能够重新调整现代化部队的发展速度和组织结构。从整体上看，人工智能代表着国家安全性质的结构性转变。因此，未来的军事应用重点是研发、采办以及整合先进和变革性技术（包括网络和自主系统）。

4.1　提升情报能力

作为一种战争工具而出现的人工智能，能够确保加拿大的国家安全，特别是提升其情报能力。 数字时代的战争正日益变得以知识为基础。当冲突进入信息领域，军事规划将侧重于信息 /虚假信息行动、网络行动、情报行动以及政治或经济影响行动。事实上，混合战争很早之前就作为一种战争工具，其目的是利用网络宣传、破坏、欺骗其他非军事行动，从内部削弱敌人。 网络一直是敌人、国家、犯罪组织和非国家行为者攻击的主要目标，其中涉及监视和侦察、情报和敏感信息。技术的发展极大地拓宽了数据和信息的获取范围，目前推动战略情报的大多数信息是开源情报（Open Source Intelligence，OSINT）或公共资源。 现代战争极其依赖于安全、及时和准确的信息。随着信息呈指数增长，数据分析变得愈加困难，促使人们采用新的分析模式和网络工具。在数字时代，情报人员迫切需要新的平台、新的工具和跨领域的 OSINT，而人工智能正好能够满足这种需求。人工智能和机器学习通过筛选大量的数据，能够极大地提高加拿大的国家情报能力。虽然人工智能系统不能提供因果分析，但是可以极大地提高在数据管理和数据驱动分析方面的智能性。

4.2　重塑军事指挥控制系统

人工智能改变了旧的军事冲突模式，面对数据驱动的战场，决策者应该及时调整其安全态势，目前，加拿大国防部和军队面临的一个重要挑战是数据驱动网络正以极快的速度重塑军事指挥控制系统。 集成化系统的优势是能够高效地协同军事行动，在军事指挥控制系统中，人、传感器执行威胁检测，将信息推送至决策栈，使决策者能够准确地响应，但集成的指挥控制系统也意味着单点故障将成为薄弱环节而遭受攻击，“自上而下”的决策难以适应在复杂情况下的紧急挑战，而人工智能的应用又将使决策进程进一步加快，因此对传统的军事指挥控制系统提出了挑战。 神经计算、生成式对抗性网络、人工智能决策支持、数据和情报分析方面的创新将对军事行动产生巨大影响。在平台、技术和应用集成化的数字时代，人工智能和机器学习对于巩固和加强军事力量至关重要。人工智能并不是一种单一的技术，而是由一系列技术构成的，可以集成到各种军事和商业应用中，而数据是这些技术不断发展的基础。数字技术受到数据的推动，并进一步推动人工智能的发展。数据是人工智能和先进机器学习算法训练的基础，数据正驱动着机器“自主”发展。 数据驱动技术支撑着现代社会的核心和经济功能，随着全球 5G 网络的推出，全球信息网络将产生、收集、处理和存储大量数据。因此，加拿大国防部和军队将数据提升到国家级资产是明智之举，对经济增长和加拿大国防都至关重要。保护和利用数据意味着要重新思考当下的集中式数字基础设施，网络时代的数据安全应该既是分散的，又是聚合的，这样才能避免出现集中式系统漏洞风险。

4.3　推动自主武器系统的发展

人工智能的武器化加剧了全球军备竞赛，它可能重塑加拿大的国防战略。目前，由于人工智能的引入，军事系统自动化、设备维护和监视以及无人机和机器人的部署都取得了巨大进展。美国、俄罗斯、以色列等国家正在研究将人工智能嵌入到网络安全和支持作战模拟、数据处理的机器人系统中。先进的后勤保障、半自动驾驶、智能的供应链管理和可预测的维护系统代表了当前人工智能的军事应用。 自主武器无须人类的参与，可以在陆、海、空、天和网络多疆域执行目标识别、打击和摧毁活动。其基于监测周围环境的传感器系统、识别潜在目标、决定是否发起攻击的人工智能系统，以及能够摧毁目标的武器的组合。在亚美尼亚和阿塞拜疆的冲突中，自动和半自动无人机被用来破坏常规的军事系统，导致一系列军事平台直接失效。最近，对沙特阿拉伯国家石油加工设施的袭击行动也证实了军用无人机正越来越多地应用于各种战场环境。 随着自主武器系统和数据驱动技术的成熟和普及，它们可能会为国家和非国家行为者提供平台和工具，以新的破坏性方式来运用人工智能和机器学习。

4.4　打造先进的网络平台

对许多北约国家而言，网络平台对于多疆域作战至关重要。网络平台使复杂环境中的可视化和协调资源成为可能。在 5G 和云计算的支持下，信息系统能有效地收集、传输和处理大量战场数据，提供实时数据分析。 设备互联对于协调空袭行动、无人机驾驶、实时战场空间分析、管理高度复杂的供应链至关重要。从战略、通信到后勤、情报，数字平台成为指挥复杂军事行动的基础，其数据是所有作战领域的命脉。 在数字化战场空间中，每一个官兵、平台和资源都是复杂军事网络的一个节点。从 20 世纪 90 年代以网络为中心的美军军事行动开始，数字技术就是先进武器、战术和战略的基础。从战场态势感知、自主无人机到精确制导弹药和机器驱动的心理战，网络正在将战争带入网络时代。 人工智能本质上是一种“自下而上”的技术，它依赖于大量数据的不断“输入”，以支持机器学习为“学习引擎”。随着数字生态系统的激增，它们所依赖的网络平台和数据管理系统对于管理不断扩大的资源和人员变得至关重要。 DLT 提供的高度分散的验证系统，可以在确保所有通信和数据传输不受对手攻击的同时，消除集中式节点可能存在的故障。因此，加拿大国防部应该依靠 DLT（例如区块链）来加速加拿大军方的数字转型。通过在分散的网络中横向分配数据的手段，克服原有系统固有的局限性和脆弱性的缺点。

4.5　促进无人机群与机器人迅速发展

随着人工智能在军事应用领域的迅速推进，许多国家在无人机和机器人的部署方面取得了很大进展，其中，以美国和以色列的军用无人机的发展为代表。美军军用无人机种类齐全、技术先进、用途广泛，主要有无人侦查机，察打一体攻击型无人机、诱饵无人机和货运无人机，用于战场监视、通信中断、军事打击活动等，其在全球市场份额占据领先地位。 无人机群技术可用于微型、小型无人机以及无人驾驶飞行器（Unmanned Aerial Vehicle，UAV），利用基于共享的信息进行自主决策。现代军用无人机已经能够在无人的情况下定位、识别和攻击目标。无人机“蜂群技术”可以使数以百计的无人驾驶飞机从战场收集信息，为各种武器系统提供支持。人脸识别和决策算法使得国家和非国家行为者都能够利用致命的自主武器系统执行定点清除任务，在数千架无人机上装备爆炸弹头就能够击垮防空力量，攻击基础设施、城市、军事基地等。

4.6　使“马赛克战”应运而生

无人机的军事威胁势不可挡，关键基础设施的网络攻击事件不时发生，为了应对不断变化的环境，DARPA 提出“马赛克战”概念。 “马赛克战”的核心思想是利用廉价而灵活的模块化系统应对高度复杂的网络化环境，其中个人作战平台可以被设计成可配置的，利用数字网络加快动态响应。在 DARPA 举办的“阿尔法狗斗”（AlphaDogfight）挑战赛中（2019—2020 年），使用先进的 F-16 飞行模拟器，让计算机与有经验的飞行员对抗，结果飞行员根本无法匹敌人工智能的自主攻击和精确性。 在“马赛克战”中，人工智能、无人机、传感器、数据和人员相互结合，为作战指挥官提供情报、资源和后勤支持。模块化系统表明，未来战争将越来越多地利用计算、数据分析和算法。人工智能系统将驱动高度变化、不可预知的战场环境，加快战争进程。

4.7　对抗性攻击不可避免

人工智能的武器化也引发了针对人工智能系统的新战略和新方法。正如网络行动可以让计算机网络或机器以某种方式运行一样，对手也可以对人工智能系统使用同样的策略，这个过程被称为对抗性机器学习，它试图找出机器学习模型中的弱点并加以利用。攻击行为可能发生在开发或部署阶段，包括通过提供欺骗性“输入”或以模型本身为目标来误导模型。随着人工智能系统变得愈加普及，对抗性攻击行为会越发具有吸引力。此外，攻击者往往会通过创建对抗性示例来修改训练数据或测试数据，这些例子被故意“扰乱”或修改，从而导致数据错误。在国家安全方面，对手可能会试图使用同样的技术来影响武器系统。如果只是孤立发生的事件，则很可能很快解决这一问题。如果在一段时间内频发，则可能对情报收集系统带来巨大挑战并影响其信任度。 高价值人工智能系统并非对手攻击的唯一目标，其中包括生物特征识别和假生物特征被利用来冒充合法用户。在语音识别中，攻击者通过添加低量级噪声来破坏系统和计算机安全。目前，加拿大国防部在其军舰上部署了“语音助手”，期望通过部署人工智能系统来提高作战效率。

5

加强人工智能的全球治理

从无人机、人机对话到军事决策，人工智能技术能够使战斗力倍增。数据驱动下的战争速度和范围表明，我们正在进入一个致命自主武器系统将极大改变全球力量平衡的新时代。随着低地轨道日益成为军事监视、遥感、通信、数据处理和弹道导弹的作战环境，人工智能武器化与太空武器化也相互交叉融合。人工智能、低地轨道和自主武器系统代表着全球安全的重要转折点，世界各国的研究人员对此所带来的威胁表示担忧，认为如果在人工智能应用和发展的规范方面缺乏国际共识，就有可能导致危机的出现。

因此，人工智能和其他数字技术的法律条约将塑造未来几十年战争和冲突的轮廓。在人工智能军事化的发展中，构建法律条约对于减少未来冲突至关重要。目前，欧洲国家呼吁欧盟成员国制定使用人工智能新技术的战略，美国邀请盟友讨论人工智能使用的法律问题。北约正在启动一个鼓励成员国达成协议的进程，同时认识到人工智能等新兴技术对全球安全的深远影响，并于 2019 年 12 月启动了新兴和颠覆性技术（Emerging and Disruptive Technologies，EDT）路线图。加拿大及其盟国正寻求促进、参与和建立合作的机会，提出制定一个基本框架，支持人工智能和其他新兴技术。联合国秘书长安东尼奥·古特雷斯（António Guterres）也强调了人工智能和其他数字技术的风险和机遇，并呼吁制定保护性法律。 人工智能是一个影响商业和军事应用的技术领域。鉴于在对人工智能实行全面监管方面存在概念模糊和政治障碍等问题，治理问题在很长一段时间内都将是一项艰巨的挑战。

6

结　语****

人工智能已经从一个神秘的学术领域发展成为社会和经济转型的强大动力。人工智能汇集了先进的数据、算法和计算能力，能为军队提供安全、及时和准确的信息。 加拿大要想构建一支适合数字时代的军队，政府、工业界和学术界必须要以一体化的方式进行合作，建立一个健全的创新性生态系统。除了大力发展新兴技术，加拿大政府和军队还需要平衡不断变化的地缘政治格局，利用信息共享、专家会议和多边对话的方式加强国际合作。作者简介 >>>****

丹尼尔·阿瑞亚（Daniel Araya）：获得伊利诺伊大学香槟分校的博士学位，加拿大国际创新中心的高级研究员，世界法律首脑会议的高级合作伙伴、顾问，主要研究方向为人工智能及其技术政策、治理。 梅格·金（Meg King）：威尔逊中心技术实验室的创始人，国际战略研究所成员，被宾夕法尼亚大学提名为 40 岁以下的智囊团成员。译者简介 >>>

李欣来，男，本科在读，主要研究方向为计算机技术及其应用。 （ 此 报 告 翻 译 方 式 为 编 译， 原 文 链 接： https://www.cigionline.org/publications/the-impact

**of-artificial-intelligence-on-military-defence-and security/）**选自《信息安全与通信保密》2022年第6期（为便于排版，已省去原文参考文献）