《避免人工智能世界末日：中美俄在核武器和人工智能领域的竞争》最新36页报告

近年来，随着大国在数量和质量上不断增强其核武库，以往由美国和俄罗斯主导的两极核秩序已让位于更加动荡的三极核秩序。与此同时，包括军事应用在内的人工智能（AI）技术领域也取得了重大突破。由于这两种趋势，在美中俄地缘政治竞争的背景下理解人工智能与核的关系变得日益迫切。

人工智能在军事上的用例多种多样，包括分类模型、分析和预测模型、生成式人工智能和自主性。鉴于其种类繁多，有必要从三大类别来研究人工智能与核的关系：核指挥、控制和通信；核平衡的结构要素；以及人工智能支持的常规系统与核风险的纠缠。虽然这些类别中的每一类都有可能产生风险，但本报告认为，特定情况造成的风险程度取决于三大因素：人类的作用、人工智能系统成为单点故障的程度以及人工智能攻防平衡。

随着大国日益致力于实现核武库现代化并将人工智能融入军队，政策制定者必须意识到人工智能与核的关系所带来的风险。在当前的外交和军事背景下，美国与中国和俄罗斯之间的双边关系日益紧张，中俄协调也有所加强，在这种情况下与大国就这一关联问题深度探讨可能会困难。尽管如此，美国决策者仍可采取各种措施来加强在这些问题上的威慑力和稳定性。这些措施包括

• 围绕人工智能与核的关系问题积累知识和能力；

• 将人工智能纳入与核及其他战略风险相关的外交举措，反之亦然；

• 建立和促进与核武库和其他战略能力有关的人工智能安全使用规范；

• 制定政策和技术标准，准确评估如何以及何时让人类参与所有核相关进程；

• 将人工智能技术作为监督和审查美国核武库的一个因素；

• 投资人工智能支持的网络和空间能力，以加强防御和复原能力，减少攻击这些领域的动机，并降低纠缠风险；

• 就人工智能将如何影响与核能力和常规能力有关的延伸威慑计算与美国盟国密切磋商；以及

• 建立一套全面的风险降低和危机管理机制，同时认识到取得进展的障碍。

如果不采取这些措施，美国和世界就可能面临危险，并且没有准备好抓住人工智能-核关系日益突出所带来的任何机遇。