我们离AGI有多远？UIUC最新120页论文阐述AGI定义、目标和发展轨迹

人工智能（AI）的演变对人类社会产生了深远的影响，推动了多个领域的重大进步。然而，AI不断增加的需求突显了其当前能力的局限性，催生了向通用人工智能（AGI）发展的趋势。AGI因其能够高效且有效地执行各种现实世界任务的能力而与人类智能相媲美，体现了AI演变的一个重要里程碑。虽然现有的工作总结了AI的具体最新进展，但它们缺乏对AGI定义、目标和发展轨迹的全面讨论。本论文不同于现有的综述论文，深入探讨了我们距离AGI有多近以及实现它所需的策略，通过广泛的综述、讨论和独到的见解来回答这些关键问题。我们首先阐述了AGI所需的能力框架，整合了内部、接口和系统三个维度。由于实现AGI需要更先进的能力和严格的约束，我们进一步讨论了必要的AGI对齐技术以协调这些因素。值得注意的是，我们强调了负责任地推进AGI的重要性，首先定义了AGI进展的关键水平，然后提出了评估框架以确定现状，最后给出了如何达到AGI顶峰的路线图。此外，为了提供关于AI整合的广泛影响的具体见解，我们概述了多个领域中现有的挑战和潜在的AGI路径。总之，作为对AGI当前状态和未来轨迹的开创性探索，本文旨在促进研究人员和实践者之间对AGI的集体理解，并激发更广泛的公众讨论。

人工智能简史

人工智能（AI）的发展彻底改变了人类社会，因为其在许多方面的强大能力，例如视觉感知（Alayrac et al., 2022; Li et al., 2023j）、语言理解（Wei et al., 2021; Schick et al., 2023）、推理优化（Wei et al., 2022b; Hao et al., 2023; Hu and Shu, 2023）等。其中一个显著的例子是DeepMind在2021年推出的AlphaFold（Jumper et al., 2021），这项技术彻底改变了蛋白质结构预测领域，并推动了生物学研究的前沿发展。尽管近期取得了显著进展，但值得一提的是，AI的发展并非一帆风顺。早期的AI研究主要集中在符号研究（Stryker, 1959; Turner, 1975）和连接主义（Buckner and Garson, 1997; Medler, 1998），为智能的计算方法奠定了基础。从20世纪80年代到90年代，AI经历了一个“寒冬”，许多研究人员由于高期望和随后的失望转向了实际应用。1990年代到2010年代，机器学习和神经网络（Zadeh, 1996; Kosko, 1992）的兴起为研究人员带来了希望，推动了自然语言处理、计算机视觉和分析等各种应用的显著改进。自2010年代开始，深度学习技术的出现彻底改变了AI的能力，在图像（Lu and Weng, 2007; Rawat and Wang, 2017）和语音识别（Gaikwad et al., 2010; Povey et al., 2011）方面取得了重大突破。近年来，随着ChatGPT（Wu et al., 2023a; Zhong et al., 2023b）的出现，大型语言模型（LLMs）的普及进一步改变了AI研究，因为其统一的知识表示和卓越的多任务解决能力。

对通用人工智能的渴望

尽管人工智能（AI）给人类社会带来了巨大的进步，但社会日益增长的物质和精神需求使人们对AI仅仅提供的便利感到不满。因此，实现能够更高效、更有效地执行更广泛任务的通用人工智能（AGI）成为了一个紧迫的问题，这被用于描述在大多数任务上至少与人类一样有能力的AI系统（Wang et al., 2018; Voss and Jovanovic, 2023）。因此，我们的论文旨在引起对以下紧迫研究问题的关注：我们距离AGI有多远，以及我们如何负责任地实现AGI？

为了研究这些问题，现有研究主要分为三类：定义与概念、技术方法与应用、伦理与社会影响。（1）定义与概念：Wang等人（2018）从与人类对比的角度定义了AGI的概念，并提出了不同的层次。Voss和Jovanovic（2023）通过设定与AGI相关的人类需求，为实现AGI的路径提供了方向。（2）技术方法与应用：Yan（2022）；Wang等人（2019a）提出AGI可以通过结合逻辑与深度学习来实现。Das等人（2023）认为在AGI技术的发展中存在许多风险，如安全和隐私问题。（3）伦理与社会影响：Rayhan（2023）认为人类在创建AGI时应考虑伦理影响，包括对人类社会、隐私和权力动态的影响。Bugaj和Goertzel（2007）提出了五项伦理要求及其对AGI互动的影响。这些研究从不同方面对AGI进行了表征，但它们缺乏对AGI发展过程的各方面系统评估和对AGI目标的清晰定义，导致难以衡量当前AI发展与AGI未来之间的差距，并进一步探讨实现AGI的可能路径。

AGI比以往任何时候都更接近

如图1所示，AI的快速发展使其能力在越来越多的领域超越人类活动，这表明AGI的实现越来越接近。因此，重新审视我们距离AGI有多远以及如何负责任地实现AGI这一问题，通过进行一项全面的综述，明确未来AGI的预期并详细阐述当前AI发展的差距，具有重要的现实意义。

AGI内部：揭示AGI的思维

人脑的复杂性，其特定功能区域专注于不同的认知和行为方面，为AGI系统的架构提供了一个引人注目的类比。类似于人脑划分为感觉处理、情感、认知和执行功能的区域，AGI系统的“头脑”也可以被基本组织为四个主要组成部分：感知、记忆、推理能力和元认知。这些组成部分反映了人类认知的基本方面，并在创建一个真正智能的系统中扮演不同的重要角色。我们在图3中总结了本节的概述，展示了AGI内部的现状和未来预期。

AGI交互接口

包括数字接口、物理接口、智能接口

许多大型模型（如Llama 2 (Touvron et al., 2023)、GPT-4 (OpenAI, 2023a)、Gemini (Team et al., 2023)、Claude 3 (AI, 2024) 和 Mistral (Jiang et al., 2023d)）在参数数量扩展到一定程度时会表现出一些新兴行为（Wei et al., 2022a）。支持这种扩展并在保持LLMs足够效率的同时实现其工作的关键在于一系列系统工作：1）可扩展的模型架构从根本上和算法上定义了计算和建模；2）大规模训练技术优化了更多硬件加速器的利用，可能分布在地理上；3）推理基础设施确保了多模型的稳定和高吞吐量服务；4）成本和效率讨论了在数据、模型组合和自动化过程中的各种高效方法；最后我们触及了一些关于5）硬件计算平台的方面，这些平台试图突破软物理限制，从而为未来算法创新提供下一代计算能力和硬件基础。系统研究的进展对于促进这种可扩展性至关重要，这一趋势预计在我们迈向通用人工智能的过程中仍将是关键。随着AI系统研究和工程的不断改进，我们可以预见，模型将在云端的数万个异构加速器上进行训练，这不仅将多个智能体连接成一个多功能综合体，还将为人们的日常生活提供即时和个性化的帮助。在本节中，我们首先讨论AGI系统需要解决的主要挑战，并介绍一些在模型架构创新、训练、推理、成本降低和计算平台方面的前期努力。最后，我们将总结对未来AGI系统的展望及其在未来中的作用。

AGI对齐

AGI对齐是一种关键的技术方法，用于在生产和日常生活中利用AGI的能力，如前几节所讨论的。正如图7所示，本节我们首先概述了对AGI的期望，包括其能力和所涉及的伦理考量。随后，我们探讨了当前的对齐技术，这些技术可以分为三种不同类型：在线人类监督、离线人类监督和交互监督。在这些讨论的基础上，我们提出了一个潜在的框架，该框架基于第3节总结的AI接口类型，分类未来的AGI对齐策略。