美国军事人工智能发展及其安全问题的思考

2020年初，美国海军发布《人工智能技术安全性》。该报告重点关注对此项技术带来的安全性问题。美国海军乃至整个国防部系统，都在严肃认真地对待军事人工智能的发展。2019 年的 2、6、9 月，美国先后公布《国防部人工智能战略》、《国家人工智能战略》《空军人工智能战略》三大战略，表明其在国家、军队、军种三个层面的“智能化战略”全面启动。可看出美国人工智能在军事领域的发展态势日趋激烈

一、推出多项政令战略规划，聚力发展人工智能

人工智能作为驱动第四次工业革命的重要引擎，深刻影响着经济产业和各技术学科的发展，为此美国以国家战略地位提升对人工智能在社会发展各领域( 特别是国防领域) 的动能，以推动人工智能技术的研发。2019年10月，世界经济论坛发布制定国家人工智能战略的框架白皮书，创建了最低限度可行的人工智能国家战略制定框架，指出国家人工智能战略的制定应考量具有战略意义的优先事项人口需求资源限制和地缘政治等因素，旨在指导尚未或正在制定人工智能国家战略的政府。美国多措并举，继续把发展人工智能技术作为提升国力维护国家安全的重大战略，从国家战略层面强化人工智能技术布局。2019年2月，美国政府科技政策办公室发布由美国总统特朗普签发的《维持美国在人工智能领域的领导地位》行政令，提出了美国发展人工智能的政策和原则战略目标和重点领域，启动旨在推进美国在人工智能领域领导地位的美国人工智能倡议，指示联邦政府整合资源，聚力发展人工智能。

同年2月，美国国防部公布《2018年国防部人工智能战略》的摘要部分( 题为《利用人工智能促进安全与繁荣》) 。该战略是美国国防部首个人工智能战略，旨在落实美国政府《国家安全战略》和《国防战略》提出的人工智能重要事项，为美国国防部谋求军事人工智能优势发展军事人工智能实战化能力提供战略指导。2019年7月，美国空军推出数字空军计划，旨在改进其在数据管理信息技术架构和业务运营方面的不足，使美国空军保持竞争力。2019年9月，美国能源部成立人工智能与技术办公室，旨在为美国人工智能研究人员提供联邦数据模型和高性能计算资源。2019年9月，美国空军以美国《国防部人工智能战略》附录形式发布《2019空军人工智能战略》，详细阐释在数字时代如何有效管理引导和引领所必须的基本原则职能和目标。2020年初，美国海军分析中心发布专题报告《人工智能技术安全性———对海军的行动方案建议》。该报告从当前美国海军推动军事领域人工智能技术运用过程中引发的公众关注进行介绍入手，提出了海军乃至整个国防部系统在军事领域接收采用新兴技术手段的总体态度与思路。

二、多家军事机构开展研发项目，探索人工智能技术的军用新场景

作为军事大国，美国对于人工智能军事作战赋能的目标非常清晰，强力推动美国顶尖人工智能研究走向新的技术突破，促进科学新成果的发现、增强经济竞争力、巩固国家安全。2019年3月，美国参议院军事委员会举行主题为国防部人工智能计划的听证会，美国国防预先研究计划局 DARPA、国防创新小组( DIU) 、国防部联合人工智能中心( JAIC)等机构主管分别发言，阐述所在部门的人工智能项目及运行机制等情况，巩固并强化了人工智能技术及应用与军方之间的联系，保障美国的人工智能军用化步伐进一步加快。以DARPA为例，DARPA正将投资和研发重点转向第三代人工智能技术，用于创建能在特定语境下进行推理的机器。资助的主要项目包括终身学习机器( L2M，2017年启动)，可解释人工智能( XAI，2018年启动)和机器常识( MCS，2018年启动)等，探索提高人工智能技术水平的方法，实现语境推理能力。DARPA认为，将这些技术集成到与军事作战人员合作的军事系统中，将有助于在对空间敏感的复杂战场环境中做出及时决策，了解不完整或者相互矛盾的海量信息，并使用无人系统安全自主地执行关键任务。2019年1月，DARPA启动知识导向型人工智能推理模式( KAIROS)项目，旨在提升面向复杂战场环境挖掘和理解海量信息中的复杂事件及其相互关系的能力。2019年1月，美国陆军研究实验室( ARL)启动异构战术环境中的分布处理( DPHTE)计划，基于雾计算平台在对抗性军事环境中为作战人员提供更多的态势感知。2019年2月，美国空军研究实验室发布多域战和目标定位支持信息分析项目，旨在开发基于算法战和人工智能等技术，针对时敏有价值的敌对移动目标进行快速预判和打击。2019年5月，DARPA启动旨在将人工智能应用于空战演变( ACE) 项目，人工智能空战应用成熟后可替代飞行员完成部分空战任务。2019年5月，麻省理工学院发布为美国空军打造人工智能加速器项目，该项目研究领域包括救灾和医疗准备、数据管理、维护物流、车辆安全以及网络还原能力。2019年9月，美国国防部联合人工智能中心宣布美国军方网络安全数据制定新框架，重点为未来人工智能网络防御体系奠定基础。2020年初，美国特朗普政府向国会提交2021财年预算申请，加速发展人工智能等技术。提议政府预算从2020财年1560亿美元削减至1422亿美元，下降138亿美元，但预算申请仍强调优先发展“未来产业”，必须加速发展人工智能等技术。其中，500万美元用于能源部新立“人工智能与技术办公室”，加强人工智能的项目研发。

三、夯实人工智能实践应用的道德准绳和安全边界

随着人工智能技术的发展，人权伦理、隐私保障、歧视偏见、安全问题等困境日益突出。美国亦在探索中多措并举，确保人工智能在充分的监督和控制之下发展。特别是在2019年发布的国家级人工智能战略和2020年初发布人工智能技术安全性报告中，将道德、隐私、安全等问题摆在突出位置，认为应在尊重道德、重视安全的前提下最大限度地发挥其社会效益。

（一）明确战争中使用人工智能技术的道德原则和标准

美国推动多项研究，阐明美国合法道德地使用人工智能的愿景和指导原则，引导负责任的人工智能应用和开发。2019年1月，美国国防部要求国防创新委员会制定在战争中使用人工智能的道德原则，用以指导军方在战争中使用人工智能技术和武器，并向硅谷科技公司确认其人工智能产品将如何被使用。美国国防部这一举措被认为旨在形成全球军用人工智能规范的指导方针，并吸引硅谷科技公司参与防御工作；10月，人工智能原则: 国防部人工智能应用伦理的若干建议推出，被认为是美国对军事人工智能应用所导致伦理问题的首次回应。2019年1月，美国著名智库布鲁金斯学会发布《自动化和人工智能：机器对人及地区的影响》报告，着重分析了过去近30年间的资助系统与人工智能对行业、就业、地理和人口的影响，并对当前至2030年的趋势进行了预测。最后针对国家、州和地方的政策制定者提出一个综合响应框架，为人们理解并规范自动化和人工智能的作用提供参考。

（二）人工智能对军事领域尚属新兴技术，安全性不容忽视

人类历史上，充斥着军队利用技术取得军事优势的实例。比如战车。战车，是出现在战场上的第一种车辆装备，由民间通用马车提高速度和机动性改进而来，在军事运用方面取得了显著的优势。战车被描述为当时的“超级武器”。又比如火药。火药源起于一个偶然发现，它的出现，使得军队能够驾驭化学反应能量来提高速度与威力，由此彻底改变了战争的形态和样式。再比如内燃机。这种发动机继承并发展了蒸汽机的优势，改变了战争活动的速度与范围。对内燃机的应用方案，包括为后勤物流（补给运输卡车）提供动力以及为潜艇、飞机与导弹赋予持久的远程监视及打击能力。对大多数技术手段的接收和运用，一度都曾起到了改变了战争样式的作用。而其中有几项，更是彻底颠覆了以往战争活动的样式和范围，其中便包括火药与核武器。人工智能技术，亦被认为位居此类。此项技术能够应用于整个战争事业的方方面面，大幅提高了战争活动的效能与效率。各类人工智能技术，也因其各自独有的特性而有所区别。首先应注意到，现实世界中人工智能技术应用方案，是用以解决特定领域问题的狭义人工智能技术，而非具备普遍通用性的通用人工智能技术应用方案。人工智能技术在军事领域的应用，可以与美国军队对核武器的运用方式进行类比：安全方面的关键性技术领域知识，必须在很大程度上由军队文职机构掌握，在很大程度上亦属技术范畴。

（三）给予人工智能技术安全性 “恰到好处”的信任

人工智能技术安全性，也与对其信任程度有关。美国军方运用人工智能技术方面的一个关键问题是，军方人员和美国政府高层领导能否相信这些系统确实有效且不会引发意外问题。2016年国防科学委员会对自主控制技术的研究报告指出：“决定在特定任务中部署运用某系统的个人，必须信任该系统。”在伊拉克和阿富汗的行动表明，负责实施特定行动的指挥官和战斗/操作人员在不完全了解后果的情况下，不一定会使用某些系统。当某些系统被部署至战场以满足紧急需求时（如反简易爆炸装置系统或用于提供关键性情报的监视系统），一些部队还是选用了他们已经熟悉的武器系统和情报监视侦察平台，即便是老系统的功能指标比不上那些已经可以选用的新系统。对人工智能系统的信任度过低是一种危险，会阻止部队运用他们所需的功能。而另一种危险，则是对某项能力的过度信任。人类倾向于过度信任机器，即便在有证据表明不能够给予这种程度的信任情况下，也是如此。战争活动中的过度信任，也有具体案例。如，2003年，陆军“爱国者”防空导弹系统曾击落1架海军F/A-18飞机，该系统将飞机误判定为战术弹道导弹，并向操作人员提出了建议，要求其发射导弹实施拦截。操作人员在没有独立核实可用信息的情况下，批准实施了这项建议。这表明，在实际作战行动中，军方需要对人工智能给予程度“恰到好处”的信任，不能过热也不可太冷，避免滑向两个极端。需要达成的目标，是程度恰当的信任，并且应该让人来参与决策过程。而这种决策过程，则需要以各种相关能力及对系统功能所具备的经验与知识为依托。

（四）军事人工智能安全问题将写入政策方针

军方和政府的高层领导，还应通过政策方针层面的决策对相关军事行动的性质施加影响，包括确定战争活动中应该使用哪些特定的技术手段。这些方针政策，可能会对监管程度构成影响。例如，国防部第3000.09号指令，就要求对某些类型的自主控制系统进行高级别审核。明确战争活动中允许使用的技术手段（例如，对白磷（弹药）运用的限制和使用集束弹药时相关设定要求以及对其它此类武器具体性能参数的限制要求），并且对某些特定类型作战行动中的策略原则进行限制。例如，《2013版总统政策指导（Presidential Policy Guidance，PPG）》及《2017版总统政策指导》中，对某些反恐行动的批准与监管流程的总体原则框架进行了明确。这些政策方针原则，有助于确保相关军事活动符合美国的原则、价值观及利益。这些政策方针层级的决定，都有反映出对此类系统或作战行动可靠性所应持有的信任程度的意味。值得注意的是，以上这些实例内容都涉及到了安全性原则问题，而《国防部第3000.09号指令》的目的，就在于避免“意外交战（inadvertent engagements）”事件的出现（例如致使平民伤亡）。限制白磷弹药和集束弹药的目的，还在于减少使用这些武器时给平民带来的危险。《2013版总统政策指导》中，直接将致使平民伤亡明确列为作战行动批准程序中的否决条件（no-gocriterion）。因此可以预见，安全性问题，势必将成为未来高层领导人对于将人工智能技术手段运用于战争活动方面所明确的相关指导与指令内容中的一部分。

（五）军方须与业界协助解决安全问题

人工智能技术的巨大进步，也使美国政府产生了对业界新的依赖性。自第二次世界大战以来，美国政府一直在很大程度上依赖于自身投入的研发资金。然而，人工智能技术方面的研发投资，越来越多地由私营机构所主导。其特征，是过去十年来科技行业的研发支出急剧增加。在图1中，我们将整个美国政府在网络和信息技术研发方面的支出与美国排名前五位的高科技公司（亚马逊、谷歌/阿尔法控股、英特尔、微软、苹果）的研发投资进行了对比。如图1所示，科技行业企业在研发方面的投入明显更多，而且两者间的差距正在扩大。2010年，科技行业企业的研发支出，已经是美国政府整体科技研发投资规模的6倍。8年后，企业在这方面的投入规模将激增至美国政府的15倍。总体而言，美国政府在尖端技术方面研究工作的投资面临着迅速扩大的缺口。这种现状，为美国政府营造出了一种处于不断变化中的环境。在这种环境中，与业界的协作，对于美国政府实现其战略目标必须保持的技术优势而言至关重要。在这个意义上，人工智能技术安全性应该是业界关注的问题——正如谷歌等公司放弃了对美国政府军事领域应用方案的支持，并开始运用伦理性审查程序对其内部工作流程进行监测所证明的那样，美国政府必须与业界协作，依托其帮助解决此类问题。

图1 美国政府与科技行业企业研发投资差距对比图

四、美国军事人工智能面向未来的发展趋向人工智能技术一般可分为弱人工智能、强人工智能、超人工智能 3 个等级，预计强人工智能技术可能在 2050 年前问世。未来美军智能化建设发展可能经历三个阶段：

2025 年前，美军重点是搭起智能化军队框架，总体水平处于弱人工智能阶段。美军建设主要围绕构建“全球监视打击体系”，以升级水下、网电、空天、全球快速打击和导弹防御作战系统为重点，突出发展无人化、隐身化、远程化作战平台，提升“全球公域”介入能力，确保可信的“拒止”和“惩罚”威慑。这一阶段，美军无人系统在数量上将逐步超过有人系统，自主无人系统将成为美军前沿作战的重要力量，无形、无人、隐形、灵巧等力量将成为美军事干预的主要手段。2035 年前，美国初步建成智能化作战体系，总体水平进入强人工智能阶段。美军建设主要通过发展智能化作战平台、信息系统和决策支持系统，以及定向能、高超声速、仿生、基因、纳米等新型武器，对主要对手形成新的军事“代差”。在这一阶段，美军无人系统的投资将超过有人系统，无人系统建设规模及作战运用皆居于主导地位。2050 年前，美军智能化作战体系将更先进、更完善，总体水平达到超强人工智能阶段。美军在强人工智能、通用量子计算、可控核聚变、纳米机器人、再生、创生、脑联网等技术方面可能取得突破。作战平台、信息系统、指挥控制可能全面实现智能化、无人化，更多样的仿生、基因、纳米等新型武器走上战场，作战空间进一步向生物空间、纳米空间、智能空间拓展，人类进入“机器人战争时代”。

---