人工智能（AI）被描述为现代战争的 "革命"。这篇论文重点关注迄今为止未被充分探索的复杂和不断发展的军事人工智能创新景观。尽管在全球范围内推动人工智能系统的采用和使用是一个明显的转折点，但关于人工智能在军事背景下的影响的现有研究是新兴的，但也是刚起步的。本论文旨在确定军事人工智能创新的安全影响，并探索英国、美国和北约在军事背景下采用人工智能的方法。这项研究采用了多种方法来参与这个迅速崛起的领域，分析了现有的非机密文献和政策文件、观察方法和专家访谈。本论文发现，以国防为重点的社区对军事人工智能创新和相关的安全影响越来越感兴趣，认识到人工智能除了创造新的能力外，还将产生深远的影响。这项研究强调了以安全为重点的国防从业人员和政策专家对人工智能越来越多的认识，即国家必须采用人工智能来确保或保持对敌方的预期军事优势。在军事背景下，人工智能存在重大挑战，其中包括 (1)技术方面，如网络安全和数据保护，(2)组织方面，包括采购障碍和军事创新文化（以及更广泛的知识和意识），以及(3)战略方面，包括战争速度加快，人类可能没有时间了解或干扰人工智能的进程，以及鉴于 "人工智能军备竞赛 "活动，能力可能扩大。最后，这项研究强调了国际军事组织作为发展规范和使用军事组织的共同方法的有效机制的作用，并探讨了北约在这一领域作出贡献的机会和挑战。这些讨论构成了对学术研究的方法论和政策相关的贡献，旨在为学术界和以政策为重点的社区提供信息。这项研究主要针对致力于减轻人工智能在军事背景下负面安全影响的国防专业人士。

引言

1.1 背景

在伦敦大学皇家霍洛威学院（Royal Holloway）的博士培训中心（CDT）课程中，作者很早就对新兴技术和安全的动态和相关话语产生了兴趣。在该课程的第一年，其参观了 "2018年安全与反恐博览会"，这是英国最大的以安全为重点的博览会之一。在举办贸易展的巨大仓库里，展示了从装甲车到威胁情报等广泛的物理和网络安全系统的选择。作者参观了一个智能无人机演示，并对销售人员展示其产品时的语气和语言感到不快。在解释了无人机如何从两英里外捕捉视觉效果后，销售人员兴奋地将无人机描述为 "你所需要的所有情报，....，有许多商业机会......我们很想和任何发现这一点的人谈谈"。对于这些部署的系统的隐私、道德和其他更广泛的关注，显然是不屑一顾的。这是一个警钟，并不是每个公司都重视负责任的、有良心的开发。这一刻的愤慨（"他们怎么能逃脱这样的说法？我们不是都要考虑隐私吗？"）是许多兔子洞的开始，深入到国家安全战略和 "智能 "或 "算法 "战争，以及其他主题。

有一些与安全、负责任的使用和稳定性有关的广泛关注，值得仔细考虑。这篇论文在许多问题仍在展开的时候探讨了这些问题，探讨国家希望如何有效地整合人工智能并保护自己免受对手恶意使用此类系统的影响。人工智能被认为是相关技术现象的力量倍增器，包括大数据和自主性，有助于加快冲突的节奏和压缩决策周期。制定国防领域的人工智能政策是一个最近但快速发展的工作领域，自从其在2018年首次接触这项研究以来，与军事背景下的人工智能有关的关注和活动明显增加。当时，没有一个国家发布了军事人工智能战略，也很少有学术论文反映2016年后人工智能技术的军事应用。随后的四年里，国家国防部的讨论越来越多，军队越来越意识到人工智能将在各个部门--包括国家安全和军事背景下--变得多么关键。在撰写本报告时，美国（U.S.）和法国是唯一有公布国家人工智能防御战略的北约成员（美国国防部，2018年；法国武装部队部，2019年）。英国（U.K.）宣布他们打算在2021年发布一项以国防为重点的人工智能战略（见英国国防部，2021年，42）。在提交报告时，这项人工智能战略还没有公布。2021年10月，北约成员还就第一个北约人工智能战略达成一致，以帮助协调整个联盟的军事创新和人工智能的负责任使用（Sprenger，2021）。

军方对人工智能技术的兴趣已被充分注意到（Scharre和Horowitz，2018；Hoadley和Lucas，2019；北约科学和技术组织，2020）。研究人员和政策制定者之间已经有了越来越多的共识，即国家不能忽视人工智能在战争中的影响，否则会落后于战略竞争对手，因此必须在有资源的地方投资、开发和采用人工智能。近年来，国家人工智能战略迅速扩散（希尔，2020）。有几个国家正在大力投资于军事人工智能能力，最突出的是美国、俄罗斯（Hoadley和Lucas，2018）和中国（Kania，2017）。美国、中国和俄罗斯正在积极寻求提高其运用人工智能进行军事应用的能力（Kania, 2017b）。一些国家已经发布了公开的文件，概述了人工智能的军事方法，包括法国（Ministere Des Armées，2019）和德国（German Army Concepts and Capabilities Development Center，2020）。

本论文借鉴了文献综述、半结构化访谈、文件分析和基于观察的实践技术，提出了一些发现。首先，以国防为重点的社区，包括以政策为重点的工作人员，对人工智能如何影响军事环境的认识有了显著提高。有证据表明，在国家和北约层面上，对军事人工智能创新的关注已经在更多的讨论和更多的财政投资方面有所增加，而且这种兴趣的增加几乎没有减速的迹象。第二，这项研究强烈表明，人工智能将产生深远的影响，而不是创造新的能力。人工智能是对其他新兴趋势的补充，并正在被整合到包括但不限于情报处理、态势感知和决策协助、网络物理系统（包括自动化武器系统）以及事业级后勤和维护的广泛领域。第三，本研究强调，在本研究过程中，以安全为重点的国防从业人员和政策专家对人工智能的认识不断提高，并且在国家和北约层面上表现出一种观点，即美国、英国和志同道合的国家必须采用人工智能以确保或保持对对手的军事优势。第四，与军事背景下的人工智能有关的重大挑战包括：（1）技术方面，如网络安全和数据保护，以及减轻对人工智能系统的攻击，如数据中毒或对抗性人工智能，以及用于恶意攻击系统的人工智能支持的工具。(2)组织方面，包括采购障碍、公私伙伴关系和军事创新文化（包括知识和意识）；以及(3)战略方面，包括对手恶意使用人工智能，战争速度加快，人类可能没有时间了解或干扰人工智能的进程，以及鉴于 "人工智能军备竞赛 "活动，能力可能扩大。第五，也是最后一点，这项研究强调了国际军事组织作为制定军事组织使用规范和共同方法的有效机制的作用，并探讨了北约在这一领域作出贡献的机会和挑战。

1.2 研究范围和研究问题

本论文涉及两个首要的研究问题。

(1) 军事背景下的人工智能创新有什么影响？

这个研究问题探讨了军事人工智能创新的现象，了解军队和政府国防部门在本研究期间如何看待和对待军事背景下的人工智能。这项研究发现，人工智能有望在战争的各个方面持有深刻的影响，从提高支持办公室和后勤工作的效率到提高战场环境中的速度和准确性。人工智能的部署具有广泛的安全影响，越来越成为军事界关注的焦点。这些影响包括但不限于：确保人工智能系统的完整性和可靠性的技术挑战；确保所采用的系统被负责任地安全使用的操作挑战；以及与战略稳定、相当于 "军备竞赛 "动态的人工智能竞争和更广泛的地缘政治背景有关的战略影响。

(2) 行为者如何试图减轻与军事背景下人工智能的发展和使用有关的挑战？

本研究旨在对英国、美国和北约成员现有的军事人工智能创新动态进行整体概述，确定知识差距和安全挑战，并概述各行为体采取的新的缓解战略。本论文利用在这项研究中收集的数据，了解人工智能技术在军事背景下是如何被接近、投资、部署和保障（对抗）的。熟悉这一研究领域意味着从不同的学科，包括计算机科学、地缘政治学和安全研究中汲取文献，探索军事创新和战略稳定等主题。这项研究发现，各个国家和北约采取了一些新的战略，以减轻军事人工智能所带来的感知挑战。这些行动和活动包括：大幅增加专门用于相关人工智能研发的资金和资源，例如在美国国防部；在美国和英国建立专门的人工智能国防机构；制定理论和正式采用战略，包括美国国防部人工智能战略、英国国防人工智能战略和北约人工智能战略；以及通过北约的讨论和国家协调的活动，如美国人工智能国防伙伴关系，为发展国际共识作出更广泛的努力，包括规范和负责任的使用。在这样一个快速发展的创新环境中，随着该领域的成熟，新兴的缓解技术可能会继续发展。

1.3 研究人员的隶属关系

在本研究过程中，作者有两个附属机构对促进本研究的各个方面起到了核心作用：贝尔弗科学与国际事务中心的网络安全研究员职位和北约合作网络防御卓越中心（CCDCOE）的访问学者职位。

贝尔弗科学与国际事务中心（通常被称为贝尔弗中心）是位于哈佛大学肯尼迪政府学院的一个研究机构。该中心的研究员、学生和工作人员进行的研究集中在国际安全、外交、环境挑战和科技政策主题上。贝尔弗中心有一个 "网络项目"，这是一个专注于网络安全主题的跨学科政策研究的倡议，他们欢迎学术研究人员参与其中。作者在2019年12月申请了 "网络项目 "奖学金，并被录取，于2020年7月开始。这项研究申请提议通过文件分析和对美国国防部（DoD）专家的采访，重点研究美国在军事背景下如何对待人工智能。所进行的研究构成了第七章的研究结果。由于大流行病的原因，这一附属机构几乎完全没有驻场。贝尔弗中心的隶属关系很有价值，它将作者与其他研究员联系起来，允许定期交流意见，并帮助作者建立初步联系，以接触潜在的受访者（在第二章中进一步描述）。

北约CCDCOE（也称为 "中心"）是北约认可的专注于网络防御的跨学科研究中心。该中心设在爱沙尼亚，由来自35个赞助国和捐助国的工作人员组成，提供战略、法律、技术和行动等重点领域的研究。作者在北约CCDCCOE的工作始于2020年8月战略处为期6周的访问学者职位，实际是在塔林进行的。在这个职位正式结束后，作者仍与该中心保持联系，并（与本研究分开）以研究员的身份签订了临时兼职就业合同，最近的一份合同跨越2022年1月至2022年5月。访问学者的身份很有价值，它把作者和中心的相关工作人员联系起来，他们把作者介绍给合适的工作人员进行采访，或者他们自己也接受了采访，并且为邀请北约相关雇员接受本研究的采访提供了可信度。作者在第二章中反映了这种方法，以及对作者的研究者地位的影响。

1.4 论文提纲

在这段介绍之后，第2章介绍了与军事人工智能领域有关的广泛的学术、智囊团、军事、公共和偶尔的工业创建的研究材料的文献回顾。这是一个广泛的领域，随着技术的突破和国际地缘政治格局的变化，该领域的文献也在不断更新。因此，本章必然是在研究问题所规定的范围内进行的。在探讨有关人工智能目前使用情况的材料和探讨人工智能在军事背景下的近期可行应用的材料之前，检查现有的人工智能的军事定义，为解决有关人工智能技术对战争影响的第一个研究问题奠定了基础。由此，从各个学科中抽取文献，探讨人工智能在此背景下的安全影响。这些影响包括从技术挑战和信任主题、用户如何与人工智能系统互动和监督的人机合作，到人工智能在国家政策和国际稳定层面的战略影响。在解决国家如何处理与人工智能相关的挑战这一研究问题时，文献审查审查了整个文献中关于如何防止或减轻军事人工智能的消极影响的建议。

第3章概述了本论文的方法论，并证明了所选方法的使用。本章阐述了确定本研究和文献审查范围的理由，并描述了随后的数据收集，重点是英国、美国和北约对军事人工智能的做法。本章解释了数据收集过程的结构，详细介绍了所选择的作为人种学实地调查形式的观察实践方法、与国防和人工智能技术领域的相关专家的访谈以及文件分析。接下来，本章阐述了时间轴和论文历程，总结了在访问、网络建设和COVID-19相关因素造成的干扰中所面临的挑战。最后，本章讨论了作者作为平民学术研究者的地位，因此在某种程度上是以军事为重点/军事化空间的 "局外人"，承认作者在研究的后期阶段作为北约CCDCOE的研究人员做出了兼职贡献。

第4章介绍了作者基于观察的实践研究的结果。作者参加了六个实际活动（三个在英国，其他在美国、比利时和爱沙尼亚）。对活动期间的现场笔记的分析揭示了会议和贸易展参与者的不同观点，他们有不同程度的谨慎和支持人工智能的热情。本章反思了活动空间如何形成讨论发生和发展的环境，分析了活动中的讨论内容，以了解参会者如何理解和对待军事人工智能主题。本章反思了私营部门创新和军事采购、人机合作和人工智能技术的信任、以及在半封闭空间开会的价值等主题。本章介绍了各个国防社区是如何开始努力解决军事人工智能主题，并确定2019-2020年期间采用人工智能的有效而安全的军事方法。

第5、6和7章集中讨论了英国、美国和北约对军事人工智能主题的做法。这几章介绍了各自创新环境的背景，对每个主题收集的数据进行了分析，并简要讨论了将研究结果置于文献和更广泛的研究问题中。英国的第5章研究了英国军事人工智能创新景观的背景，并介绍了与英国国防部门相关专家的访谈结果，以探索人工智能在军事领域发展和采用的基本驱动力。通过第6章中以北约为重点的访谈，本研究探讨了北约在缓解人工智能技术所产生或放大的潜在挑战方面可能发挥的作用。在第7章中考察了美国的方法，这项研究包括采访美国国防部在人工智能政策方面有经验的员工，了解他们对美国在人工智能和维持国际局势稳定方面的看法。认识到在本论文的研究过程中，政策环境有了很大的发展，这些研究结果是按照他们的顺序来介绍的。第8章是主要的讨论部分，在这里，研究结果被带入对话，以解决上述研究问题。本章包括研究结果如何建立在现有文献的基础上，并对目前尚未开发的研究领域做出贡献的例子，提供了本研究的主要总结观点。结论部分对研究的局限性和进一步探索的机会提出了全面的看法。

成为VIP会员查看完整内容