《你所需要知道的理论：人工智能、人类认知与决策》牛津大学最新53页报告

现在，人工智能（AI）在一系列涉及高层次推理和思考的游戏、测试和认知任务中，都能与人类智能相媲美，甚至更胜一筹。许多人认为，在涉及高层次认知、判断和决策的情况下，人类应该--或者很快就会被人工智能所取代。我们不同意这种观点。在本文中，我们首先追溯了人工智能和人类认知作为计算形式这一观点的历史渊源。本文以大型语言模型为例，强调了将计算机和思维类比为输入输出设备所存在的问题。人类认知最好被概念化为一种理论化形式，而不是信息处理、基于数据库的预测或贝叶斯更新。人工智能使用基于频率或概率的方法来获取知识，在很大程度上是后视的和模仿的，而人类的认知是前视的，能够产生真正的新颖性。本文认为，人工智能基于数据的预测不同于人类基于理论的因果逻辑。本文引入了 “数据-信念不对称 ”的概念，以 “比空气更重的飞行 ”为例说明两者的区别。理论为人类提供了一种识别新数据的认知机制，一种介入世界、进行实验和解决问题的方式。在整篇文章中，本文将讨论所提出的论点对不确定情况下的战略和决策制定的影响。

现在，人工智能（AI）在涉及高层次思维和战略推理的各种游戏、标准化测试和认知任务中，都能与人类匹敌或胜过人类。例如，人工智能引擎可以在国际象棋中轻松击败人类，而国际象棋几十年来一直是人工智能能力的重要基准（Bory，2019；Simon，1985）。现在，人工智能系统在复杂的游戏（如外交或战略）中也表现出色，这些游戏涉及复杂的谈判、与他人的复杂互动、结盟、欺骗以及理解其他玩家的意图（如 Ananthaswamy，2022 年）。目前的人工智能模型在各种专业资格考试中的表现也超过了人类的 90%，如法律方面的律师资格考试和会计方面的注册会计师考试（Achiam 等人，2023 年）。人工智能在医疗诊断方面也取得了长足进步，在诊断某些疾病方面击败了训练有素的医疗专业人员（例如，Zhou 等人，2023 年）。这些突飞猛进的进步让一些人工智能学者认为，即使是最像人类的特征，如意识，原则上也将很快被机器复制（如 Butlin 等人，2023 年；Goyal 和 Bengio，2022 年）。总之，人工智能正在迅速设计出 “人性化思考”、“理性思考”、“人性化行动 ”和 “理性行动 ”的算法（Csaszar and Steinberger, 2022）。

鉴于人工智能的惊人进步，丹尼尔-卡尼曼（Daniel Kahneman）提出（并回答）了一个合乎逻辑的下一个问题： “会有什么东西是人类的专利吗？坦率地说，我看不出有什么理由要对人工智能所能做的事情设限......因此，很难想象在数据充足的情况下，仍然会存在只有人类才能做的事情......只要有可能，你就应该用算法取代人类"（2018：609-610，着重号为作者所加）。

卡尼曼并不是唯一这样评价的人。达文波特和柯比认为，“我们已经知道，分析和算法比大多数人类更善于从数据中创造洞察力”，而且 “这种人类/机器的性能差距只会越来越大”（2016：29）。许多学者声称，人工智能很可能在大多数--如果不是全部--推理和决策形式上胜过人类（例如，Grace 等人，2024 年；Legg 和 Hutter，2007 年；Morris 等人，2023 年）。一些人认为，战略决策也可能被人工智能接管（Csaszar, Ketkar and Kim, 2024），甚至科学本身也将 “自动化”（Zhu and Horton, 2024；相关论点见 Agrawal et al.） 人工智能的先驱之一杰弗里-辛顿（Geoffrey Hinton）认为，大型语言模型是有知觉和智能的，“数字智能 ”将不可避免地超越人类的 “生物智能”--如果它还没有做到的话（见辛顿，2023 年；另见本吉奥等人，2023 年）。

与机器相比，人类在认知和计算方面的局限性显而易见。人类具有偏见和有限理性（综述见 Chater 等人，2018 年；另见 Kahneman，2003 年；Kahneman，2011 年）。人类会选择性地关注和采样哪些数据，而且容易受到确认和其他数百种认知偏差的影响（根据最近的统计，有近两百种）。简而言之，人类是 “有限理性 ”的--他们计算和处理信息的能力受到严重阻碍（西蒙，1955 年），尤其是与计算机相比（参见西蒙，1990 年）。而使人类理性受限、决策能力低下的原因，似乎正是计算机在认知任务上表现出色的原因。计算机和人工智能的优势在于，它们可以处理大量数据，并以强大的方式快速处理这些数据。

在本文中，对人工智能与人类认知的关系--包括其对不确定情况下的战略和决策制定的影响--提出了相反的看法。首先重温了将计算等同于人类认知这一说法的历史渊源。人工智能建立在认知是信息处理的一般形式，是一种 “输入-输出设备 ”的理念之上。为了说明人类与计算机在认知方面的差异，以大型语言模型与人类语言学习为例。基于这些差异，认为人类的认知在重要的情况下是以前瞻性的方式运作的--从理论到数据。以 “比空气重 ”的飞行为例，介绍了 “数据-信念（a）对称 ”的概念，以及这一概念在解释人工智能和人类认知时分别发挥的作用。人类的认知是前瞻性的，这就要求数据-信念不对称，这种不对称体现在理论以及人类的因果推理和实验中。人类认知由基于理论的因果逻辑驱动，这与人工智能强调基于数据的预测不同。理论能够产生新的、相反的数据、观察和实验。本文强调了这些论点对不确定性条件下决策制定的影响，同时简要强调了考虑人类-人工智能混合系统的机会。

基于理论的因果逻辑和认知

在上述数据与信念不对称的基础上，要讨论的是人类参与前瞻性理论研究和因果推理的认知与实践过程，这使得人类在本质上能够 “超越数据”--或者更具体地说，超越现有数据，进行实验并产生新的数据和新奇事物。我们特别强调了这种形式的认知和实践活动如何不同于计算、数据驱动和信息处理导向的认知形式--我们在上文讨论过的人工智能和计算人工智能的标志--并允许人类以前瞻性的方式 “干预 ”世界。那些专注于数据驱动预测的方法会按照世界的现状进行分析，却没有认识到人类有能力进行实验并理解原因（参见 Pearl 和 Mackenzie，2018 年）--以及实现那些由于（目前）缺乏数据和证据而在目前看来难以置信的信念。我们以比空气重的飞行为例，为这一点提供了一个实际的例子，努力为我们所谓的 “基于理论的因果逻辑 ”提供一个独特的窗口，让我们了解一个更加普遍和无处不在的过程。

以 Felin 和 Zenger（2017 年）为基础的出发点是，认知活动是一种理论或科学活动。也就是说，人类会产生前瞻性理论来指导他们的感知、搜索和行动。正如皮尔斯所指出的，人类的 "心智对于想象某种正确的理论具有天然的适应性（......）。如果人类没有适应其要求的天赋思维，他就不可能获得任何知识"（1957: 71）。正如我们以语言为例所强调的那样，儿童微薄的语言输入几乎无法解释巨大的输出，这说明了人类理论化的生成能力。人类的理论化能力--参与新问题的解决和实验--起源于进化，为进化的飞跃和技术的出现提供了一个非常合理的解释（Felin 和 Kauffman，2023 年）。

重要的是，基于理论的认知使人类能够做事。这也是儿童发展中所谓 “核心知识 ”论点的基础（如 Carey 和 Spelke，1996；Spelke 等人，1992）。人类像科学家一样，通过猜想、假设和实验的过程来发展知识。认知的计算方法侧重于数据和环境输入的首要地位，而基于理论的认知观点则侧重于人类的积极作用，人类不仅要了解周围环境，还要在实验、生成新知识和创新方面发挥积极作用（Felin and Zenger, 2017）。如果没有理论化的这种主动性、生成性和前瞻性，很难想象知识会如何增长--无论我们谈论的是个人知识、集体知识还是科学知识。发展心理学一篇文章的标题很好地体现了这一点： “如果你想出人头地，就得有一套理论"（Karmiloff-Smith 和 Inhelder，1974 年）。这也呼应了库尔特-勒温的格言：“没有什么比好的理论更实用”（1943: 118）。这里的核心要点是，理论不仅仅是科学家的专利。理论对于任何试图理解和影响周围环境的人来说都是实用的--理论帮助我们做事。理论化是人类认知和实践活动的一个核心方面。因此，正如杜威所言，“科学的实体不仅来自科学家”，“人类各行各业的个人都应该是实验家”（1916: 438-442）。以这种直觉为基础，将其扩展到新颖的领域，并将其与以人工智能为基础的认知模型进行对比。

基于理论的观点在决策和战略的背景下扩展了上述逻辑，强调了理论化和理论在经济背景下的重要性，并对认知产生了广泛影响（Felin 和 Zenger，2017 年）。基于理论的观点背后的核心思想是，经济行为者可以（也需要）发展独特的、针对特定企业的理论。理论并不试图描绘现有的现实，而是要产生未知的未来可能性。在经济学中，“反向贝叶斯主义”（reverse Bayesianism）的观点与之大致相同（见 Karni and Vierø, 2013）。理论可被视为 “入侵 ”竞争性要素市场的机制（参见 Barney，1986 年），使经济行为者能够以不同的方式看待和探索世界。对新可能性的认识是自上而下形成的（Felin 和 Koenderink，2022 年）。这些理论对于如何有效地组织或管理实现新事物的过程也具有重要意义（Wuebker 等人，2023 年）。这种方法已经过实证检验和验证（如 Agarwal 等人，2023 年；Camuffo 等人，2021 年；Novelli 和 Spina，2022 年），包括重要的理论延伸（如 Ehrig 和 Schmidt，2022 年；Zellweger 和 Zenger，2022 年）。基于理论的观点所产生的实际影响也促进了管理工具的发展，以帮助初创企业、经济参与者和组织创造经济价值（Felin、Gambardella 和 Zenger，2021 年）。

本节的目标不是详尽回顾基于理论的观点。相反，现在的目标是进一步阐述基于理论的观点的认知方面，并将其与以数据为重点的落后认知和人工智能方法进行对比。本文强调人类的理论化和因果推理能力与人工智能强调数据驱动的预测有何不同。基于理论的认知观允许人类在给定数据之外干预世界，而不仅仅是处理、表示或推断现有数据。理论能够通过实验产生非显而易见的数据和新知识。我们强调了我们的认知方法与计算、贝叶斯和人工智能启发的认知方法所提出的论点和处方有何显著不同。仔细确定这些差异非常重要，因为基于人工智能的方法和计算方法--正如本文开头广泛讨论的那样--据说会取代人类的判断和认知（例如，卡尼曼，2018）。

未来研究机遇

上述论点提出了许多研究机会，尤其是在理解不确定情况下的战略和决策时。首先，我们有机会研究人类（如经济行为者）何时以及如何利用人工智能相关工具创造新价值或辅助决策。人工智能作为一种认知工具，要想成为竞争优势的源泉，就必须以独特或公司特有的方式加以利用。使用普遍可用的训练数据的人工智能必然会产生通用和非特定的产出。现成的人工智能解决方案有可能陷入信息技术的 “生产力悖论”（Brynjolffson 和 Hitt，1998 年），即对人工智能的投资实际上不会给购买这些工具的人带来任何收益（相反，只会给出售这些技术的人）。因此，我们有机会研究特定决策者--比如公司--自身的价值理论如何推动人工智能的发展和采用。要使人工智能真正成为战略和决策制定的有用工具，就需要对人工智能进行定制、目的训练和微调，使其与企业等决策者的理论、数据集和专有文件相匹配。例如，在战略决策中使用人工智能时，“检索增强生成 ”技术的进步似乎为提高特异性提供了一条大有可为的途径。在寻求独特的人工智能驱动输出时，任何人工智能的采用都应慎重考虑使用（或不使用）哪些语料库和训练数据。毕竟，人工智能为使用特定数据而定制的输出结果也是人类代理的产物，人类代理会决定哪些数据与当前决策相关（哪些不相关）。正是在这里，我们看到了一个机会，可以了解人类如何与人工智能进行独特的互动，以生成这些工具和相关的人类-人工智能界面。早期工作已开始研究企业如何利用人工智能来提高创新能力，或各种人类-人工智能混合解决方案如何实现更好的决策（例如，Babina 等人，2024 年；Bell 等人，2024 年；Choudhary、Marchetti、Shrestha 和 Puranam，2023 年；Girotra 等人，2023 年；Gregory 等人，2021 年；Kemp，2023 年；Kim 等人，2023 年；Raisch 和 Fomina，2023 年）。但是，研究特定经济行为者或企业自身的理论和因果逻辑--以及其独特或企业特有的数据和信息来源--如何影响执行战略和决策的人工智能相关工具的开发或采用，也是大有可为的。

其次，在涉及不同类型的任务、问题和决策时，有机会对人类与人工智能各自的能力进行研究并制定分类标准。对于人工智能全面取代人类的前景，有很多兴奋、炒作和恐惧的说法（参见 Grace 等人，2024 年）。然而，在现实中，人类和人工智能之间可能会有分工--各自专注于最适合自己的任务、问题和决策类型。我们有机会研究像企业这样的经济行为体如何将人类（及其认知能力、工作、角色）与算法（或人工智能相关工具）与正确的任务和决策进行随机 “匹配”。目前，人工智能显然非常适合重复性、计算密集型和直接根据过去数据推断的任务和决策。人类所做的大量决策都是相对常规的，适合算法处理（Amaya 和 Holweg，2024 年；Holmström、Holweg、Lawson、Pil 和 Wagner，2019 年）。因此，人工智能无疑将在许多管理领域发挥关键作用，尤其是流程重复的领域，如运营（Amaya 和 Holweg，2024 年；Holmström、Holweg、Lawson、Pil 和 Wagner，2019 年）。然而，有些决策更低频、更罕见（Camuffo 等人，2022 年），因此不适合人工智能。在此，我们预计人类将继续发挥核心作用，因为他们有能力进行前瞻性的理论研究，并发展出超越现有数据的因果逻辑。尽管如此，在常规决策与非常规决策之间自然存在一个 “滑动尺度”（和界面）。即使在罕见且影响巨大的决策制定中，人工智能也可能发挥作用，也许是在信息收集、处理或汇总方面增强人类的能力。正如我们在本文中所讨论的，人工智能和人类各有其优势和局限性。现有的工作倾向于在相同的基准上比较人工智能和人类，而不是认识到两者各自的优势。研究人工智能和人类的比较能力--它们各自的能力、局限性和持续发展--是未来工作的一个重要机遇。

第三，我们的论点指向的也许是有关人类本质的更为 “基础性 ”的问题，尤其是与人类认知的所谓计算本质相关的问题。虽然关于认知本质的问题听起来可能过于抽象和哲学化，但它们却至关重要，因为它们会对我们的假设、我们采用的方法以及我们研究的方式和内容产生下游影响。在此，我们赞同赫伯特-西蒙（Herbert Simon）的观点，他认为 “在制定我们的研究议程和指导我们的研究方法时，没有什么比我们对所研究行为的人类本质的看法更重要的了”（1985: 303；着重部分由作者标明）。那么，在人工智能和认知科学领域（以及经济学和战略学领域），关于人类认知的主流观点是什么呢？对人类的主要看法是，人类是从事信息处理的输入输出设备，类似于计算机。七十多年来，计算机一直是人类认知的核心组织隐喻--从阿兰-图灵和赫伯特-西蒙的研究到人工神经网络、预测处理和贝叶斯大脑的现代实例（如 Cosmides 和 Tooby，2013 年；Knill 和 Pouget，2004 年；Goldstein 和 Gigerenzer，2024 年；Kotseruba 和 Totsos，2020 年；Russell 和 Norvig，2022 年；Sun，2023 年）。然而，认知的通用计算方法并不考虑所研究生物的比较性质，因为人类、生物和机器都被视为 “不变的”（见 Simon, 1990; cf. Gershman et al., 2015; Simon, 1980）。研究这些差异是未来工作的一个重要机遇。认知存在显著差异，这些差异值得仔细关注。例如，计算机无法有意义地决定哪些输入可能相关，哪些不相关（也无法有意义地识别新的输入），而人类却可以控制他们可能首先选择或 “生成 ”的输入（例如，Brembs，2021；Felin 和 Koenderink，2022；Yin，2020）。人类认知是一种以实验和解决问题为导向的前瞻性理论。请注意，我们并不是要论证某种人类例外论，因为这些能力以不同的方式在更广泛的生物有机体中体现出来（Riedl, 1984; cf. Popper, 1991）。研究使生物有机体和经济行为主体能够理论化、解决问题和进行实验的内生和比较因素--并将各种形式的生物智能与人工智能和非生物智能进行比较--是一个重要的研究机会（参见 Levin, 2024）。把所有智能都视为广义计算，会不必要地缩小理论和实证工作的范围，从根本上忽略了智能在不同系统中表现出来的丰富多样的方式。此外，生物和非生物形式的智能之间的界面--正如人类在进化过程中对技术和工具的使用（Felin and Kauffman, 2023）--为未来的工作提供了引人入胜的机会。