北约修订后的人工智能（AI）战略概要

战略背景

1.人工智能技术的能力继续以越来越快的速度发展。特别是，生成式人工智能等强大的新兴人工智能技术得到了前所未有的发展和普及。这些技术可以生成复杂的文本、计算机代码以及逼真的图像和音频，其数量几乎没有限制，与人类制作的内容越来越难以区分。北约须尽快在适用的情况下使用这些技术。

2.北约 2021 年人工智能战略提出了一个战略愿景，包括四个目标和六项成果。在该人工智能战略中，盟国认可了国防中人工智能的六项负责任使用原则（PRUs），即合法性、责任与问责、可解释性与可追溯性、可靠性、可治理性和减少偏差。

3.人工智能正在成为一种通用技术，在旨在执行特定任务的狭义人工智能和新兴人工智能技术（如前沿或基础人工智能模型）之间，存在着不同的风险、行为体和复杂程度，前者具有多种用途，能够执行复杂任务。

4.此外，越来越多的相关问题值得北约关注。这些问题包括：用于训练人工智能模型的高质量公共数据的全球可用性可能不断减少；计算密集型人工智能需求的影响，包括对能源消耗的影响，以及人机团队合作中的问责制，以及在军事背景下应用民用市场两用解决方案时克服技术和治理问题。

宗旨与目标

5.经修订的人工智能战略旨在

• 为北约和盟国以身作则奠定基础，鼓励以负责任的方式开发和使用人工智能，以实现盟国的防务和安全目的；
• 在能力开发和交付中加快采用人工智能并将其纳入主流，加强互操作性，将其作为联盟内的一个关键要素，包括通过交付人工智能用例；
• 保护和监控人工智能技术，管理相关风险，保护创新能力，解决安全政策方面的问题，如PRU 的可操作性；以及
• 识别和防范恶意使用人工智能的威胁。

预期成果

6.经修订的人工智能战略更新了北约《2021 年人工智能战略》中确定的成果，同时考虑到已取得的进展，并增加了新的成果，以显著改善北约的人工智能准备状态。更新后的成果清单包括

• 北约企业越来越多的人工智能用例和具体要求，与北约的 PRU 保持一致，以根据北约数字化转型的目标，加速向北约的能力发展过渡。这些用例将受益于北大西洋防务创新加速器（DIANA）挑战领域的成果；
• 采取可衡量的步骤，通过北约防务规划流程中的承诺，将由高质量数据支持的人工智能整合到适当的盟军能力中；
• 在人工智能人才发展的支持下，整个联盟的人工智能人才队伍能力日益增强；
• 制定越来越多的标准、评估模板、审查程序以及其他工具和良好做法，以便在整个联盟负责任地采用人工智能；
• 根据对不断发展的人工智能和数据技术趋势进行 360 度监测的结果，加深联盟对人工智能及其影响的理解。这种理解将包括人工智能的机遇和风险，包括潜在对手和战略竞争者对人工智能的使用；
• 能够支持采用负责任的人工智能的全联盟人工智能测试、评估、验证和确认（TEV&V）环境的关键要素。这些要素将利用 DIANA 附属测试中心网络；
• 提高整个联盟所有人工智能系统之间的互操作性；
• 为在国防和安全领域负责任地使用人工智能制定规范和标准做出更大贡献。这一贡献将通过联盟与北约伙伴、国际组织、盟国工业界和学术界（如适用）的接触来实现；以及
• 采取措施解决人工智能与其他新兴颠覆性技术（EDTs）之间的融合问题。

将负责任的人工智能纳入北约

7.随着盟国防务利益攸关方、军队和武装部队发展从数据和人工智能中获益的能力和应对措施，北约可作为盟国之间的平台，促进信息交流和良好做法共享，同时承认其他组织采取的类似举措。

8.北约需要加强其对服务、熟练测试人员、公共和私营人工智能安全机构以及鉴定和认证职能的状况和成熟度的了解。盟国和北约需要能够访问和使用专业实验室、沙箱和测试设施。这将使北约能够确定机遇和挑战，并制定人工智能技术 TEV&V 和认证最佳实践的基准建议。

9.负责任地采用人工智能还应体现联合国大会关于人工智能的里程碑式决议。

10.北约应以负责任的方式并按照北约的PRU加速负责任地采用人工智能能力。

11.北约需要解决人工智能对军事和文职人员队伍的影响。例如，应对这些影响可能需要再培训计划、高级专业知识、改变工作角色以及将技术专家更深入地融入军事行动。

12.盟军的测试设施需要能够确定人工智能应用是否可以安全使用，是否符合北约的PRU。这些设施可在各种技术、程序和操作条件下测试和验证人工智能应用程序的开发和使用。

数据和技术推动因素

13.要开发和使用安全、可靠和负责任的人工智能系统，就必须提供和管理人工智能就绪的高质量数据。优质数据是开发有效的人工智能系统的基础，因为所有分析和人工智能能力都需要可信的优质数据（不包括意外偏见）来支持此类系统的开发。

尽量减少对抗性干扰和防止对抗性使用人工智能

14.新兴人工智能技术引起的安全问题非常严重，特别是在军事用途方面。北约必须继续倡导负责任的使用行为，利用其号召力影响国际规范和标准。

15.虚假信息、性别叙事武器化、技术助长的性别暴力和人工智能支持的信息 行动可能会影响选举结果，在整个联盟造成分裂和混乱，在冲突时期使社会和军队复员和士气低落，并降低对联盟具有重要意义的机构和当局的信任。这些问题可能对联盟产生深远影响。

16.为了促进北约的人工智能就绪状态，需要进行战略远景规划，包括开展广泛的积极主动活动，从预期治理到基于参与性和负责任办法的替代情景规划。

合作伙伴、联合产业和其他参与者

17.与技术导向型伙伴合作，将有助于联盟应对人工智能的共同挑战，并推动负责任地使用人工智能。联盟和北约伙伴可在采用方法、发展创新生态系统和降低人工智能相关风险方面开展合作。

18.盟国、北约伙伴国、盟国工业界、研究界和学术界之间的联合人工智能研究和发展举措有助于利用集体的专门知识和资源。科学促进和平与安全计划（SPS）支持的活动将继续促进盟国和伙伴国研究界之间根据其新批准的优先主题开展合作。科学促进和平与安全计划支持的项目、讲习班和培训课程将促进研究、创新和知识交流，并提请人们注意与安全有关的挑战，在这些挑战中，人工智能的应用有助于提供最先进的解决方案。

19.按照商定的北约政策和程序与盟国工业界、学术界和研究组织合作，将有助于北约确定人工智能并将其纳入能力，促进北约和盟国的战略利益，保护知识产权，降低盟国技术被潜在对手和战略竞争者利用的风险，并帮助盟国保障重要部件的获取。这也将有助于培养一个有助于北约人工智能能力的生态系统，加快北约的数字化转型。

20.北约将继续与盟国工业界、学术界和非营利部门建立和塑造一个人工智能利益攸关方网络，特别关注非传统国防供应商。盟国、DIANA和北约创新基金（NIF）可以确保私营部门提供创新的人工智能解决方案，以满足北约的防务需求，并鼓励盟国工业界根据联盟的要求和北约的PRU开发、设计和建造人工智能系统。

参考来源：北约