《计算力与人工智能治理》2024最新104页报告

计算力（或称 "计算"）对于开发和部署人工智能（AI）能力至关重要。因此，政府和公司开始利用计算作为管理人工智能的手段。例如，政府正在投资国内计算能力，控制计算向竞争国家的流动，并对某些行业的计算访问提供补贴。然而，这些工作只是从表面上了解了如何利用计算来管理人工智能的开发和部署。与人工智能的其他关键投入（数据和算法）相比，人工智能相关计算是一个特别有效的干预点：它是可检测、可排除、可量化的，并且是通过极其集中的供应链生产出来的。这些特点，加上计算对尖端人工智能模型的独特重要性，表明对计算的管理有助于实现共同的政策目标，如确保人工智能的安全和有益使用。更确切地说，政策制定者可以利用计算促进人工智能的监管可见性，分配资源以促进有益的结果，并对不负责任或恶意的人工智能开发和使用实施限制。然而，虽然基于计算的政策和技术有可能在这些领域提供帮助，但其实施的准备程度却存在很大差异。一些想法目前正在试行，而另一些则因需要进行基础研究而受到阻碍。此外，在隐私、经济影响和权力集中等领域，朴素或范围不清的计算治理方法会带来巨大风险。最后，我们将提出一些建议，以最大限度地降低计算治理的这些风险。

图 1：报告中的核心概念摘要。计算因其四种特性而对政策制定具有吸引力。可以利用这些特性来设计和实施政策，从而实现人工智能治理的三种关键能力。

在第 2 节 "人工智能能力、人工智能治理和计算概述 "中，我们提供了几个主题的基本背景，作为后面章节的基础。我们讨论了作为人工智能发展关键投入的人力资本、数据、算法和计算。然后，我们描述了人工智能生命周期的各个步骤（包括设计、培训、增强和部署）--其中每个步骤都是可能的干预点（并具有独特的计算足迹）。我们接着讨论了人工智能可能对社会产生的影响，以说明负责任治理的重要性。随后，我们将回顾目前在治理计算方面所做的努力，以便为后面的章节提供背景资料。

在第 3 节 "为什么计算治理对决策具有吸引力 "中，将解释计算的特点，这些特点使其成为人工智能治理的一个有吸引力的工具。这源于计算对前沿模型的独特重要性，以及计算作为一种治理策略所具有的增强功效的若干特性。

读者如果已经确信计算的重要性和特殊属性，但又想知道如何将计算治理扩展到现有工作之外，可以考虑跳到第 4 节 "计算可以增强三种人工智能治理能力"，在这一节中，我们将探讨如何利用计算来增强关键的治理能力：（a）通过监控计算来提高人工智能发展的可见性；（b）改变计算的分配以实现有益的发展；以及（c）利用计算来执行人工智能相关规范和法规。

在第 5 节 "计算治理的风险与可能的缓解措施 "中，我们总结了之前关于计算治理可能存在的局限性的讨论。