《人工智能与生物性国家安全风险的演变》美智库CNS报告

COVID-19 让世界看到了生物事件可能带来的灾难，不久之后，专家们开始警告说，人工智能（AI）的快速发展可能预示着一个充满生物恐怖主义、前所未有的超级病毒和新型定向生物武器的世界。这些可怕的警告已经上升到行业和政府的最高层，从世界领先的人工智能实验室的首席执行官对潜在生物恐怖分子的新技术能力发出警报，到副总统卡马拉-哈里斯担心人工智能驱动的生物武器 “可能危及人类的生存”。如果情况属实，这种发展将使美国面临前所未有的灾难性威胁，远远超出 COVID-19 的破坏范围。但是，要评估这些担忧在多大程度上是合理的--以及该如何应对--需要权衡一系列复杂的因素，其中包括：

美国生物安全的历史和现状
人工智能改变现有生物安全风险的各种方式
哪些新兴的人工智能技术能力会对这些风险产生影响
当前需要在哪些方面采取干预措施

本报告考虑了这些因素，让政策制定者广泛了解人工智能与生物技术不断发展的交集，并提出可行的建议，以遏制生物威胁对国家安全造成的最严重风险。

灾难性生物风险的来源多种多样。从历史上看，政策制定者一直低估了善意科学家的日常活动所带来的风险，即使高风险生物安全实验室的数量和危险事件的发生频率仍在持续增长。国家行为者历来是生物安全风险的重要来源。但由于生物武器的不稳定性和不精确性，尽管对潜在生物武器能力表示担忧，但国家仍不太可能在短期内发动大规模生物袭击。另一方面，非国家行为者--包括独狼、恐怖分子和世界末日组织--在试图发动生物袭击方面有着令人不安的记录，但由于制造和使用这种微妙能力的内在复杂性，其成功率有限。

如今，生物技术的快速发展--与人工智能的发展无关--正在改变许多风险。新的基因编辑技术、基因测序方法和 DNA 合成工具的结合，为合成生物学开辟了一个新的可能性世界，使基因操作更加精确，同时也带来了一个新的风险世界，既有开发威力强大的生物武器的风险，也有发生生物事故的风险。云实验室代表他人进行实验，可以让非国家行为者外包一些实验专业知识，从而使他们能够进行危险用途。虽然大多数云实验室都会对恶意活动的订单进行筛查，但并非所有云实验室都会这样做，而且现有的生物武器规范、公约和保障措施的组合为不良行为者在获取可行的生物武器方面取得重大进展提供了一系列途径。

但是，专家们对美国生物安全总体状况的看法却大相径庭，尤其是对非国家行为者研制生物武器的担忧。那些不太担心的人认为，即使存在制造生物武器的可行途径，但制造、储存和传播生物武器的实际操作远比大多数人认识到的要复杂得多，有许多潜在的失误点，而有关方面要么没有认识到，要么没有充分重视。他们还指出，尽管长期发出警告，但近几十年来并没有发生过重大生物袭击事件。更悲观的阵营则指出，有实验表明，利用市场上可买到的原料，似乎很容易就能成功制造出威力强大的病毒，而且制造生物武器所需的知识和技术能力方面的障碍似乎也在不断减少。争议较少的是，美国的生物防御系统不足以充分应对大规模的生物威胁，无论是自然发生的、意外的还是蓄意的。尽管 COVID-19 表明美国政府无力遏制大规模疫情的影响，但美国在减轻另一场更危险的生物灾难的可能性和潜在危害方面进展有限。

新的人工智能能力可能会以多种方式重塑生物威胁的风险格局。人工智能带来了新的能力，从理论上讲，先进的行为者可以优化生物武器，以达到更精确的效果，例如针对特定的基因群体或地域。虽然这种能力仍是推测，但如果实现，将极大地改变国家为战略目的使用生物武器的动机。国家可以破坏其他国家的粮食安全，或通过公共卫生危机使敌人丧失能力，而不需要用这些笨重的武器来威胁本国军队或人民的健康。与此相关的是，同样的技术可以制造出具有最佳传播性和致命性的超级病毒，这可能会大大增加生物武器的破坏潜力。然而，科学家们需要克服的几个技术挑战--如果这些挑战能够得到解决的话--将削弱这些担忧。

与人工智能相关的生物风险最迫切的担忧来自于可能很快就能加速非国家行为者采购生物制剂的工具。最近的研究表明，基础模型可能很快就能帮助坏人加快获取可用于武器的生物制剂的能力，即使这些人工智能工具目前能帮助他们的程度仍然微乎其微。如果新兴的人工智能工具能够更加有效，就能为生物武器的潜在制造者带来福音，因为它们可以更加动态地提供生产和使用生物武器所需的一些知识，尽管这些制造者在开发生物武器时仍将面临其他重大障碍，而这些障碍往往未得到足够重视。

人工智能还可能以其他方式影响生物风险。人工智能工具中的技术缺陷可能无法限制基础模型向潜在的不良行为者传递危险的生物信息，或者无意中鼓励研究人员追求具有意想不到的负面影响的有前途的药物体。利用人工智能创建更先进的自动化实验室，可能会使这些实验室面临许多自动化风险，而这些风险历来困扰着其他复杂的自动化系统，并使非专业人员更容易调制生物制剂（取决于自动化实验室所建立的安全机制）。最后，对寻求利用人工智能在生物技术领域的潜力的公司和国家进行大量投资，可能会造成速度优先于安全的竞争态势。

鉴于生物技术和人工智能这两个学科的科学进步存在固有的不确定性，试图准确预测未来几年生物技术和人工智能交叉领域的灾难性风险将如何发展以及何时发展，无异于天方夜谭。相反，本报告指出了专家和政策制定者需要监控的四个能力领域，它们将对与人工智能相关的灾难性风险产生最大影响：