对话 IJCAI 07「卓越研究奖」得主 Alan Bundy ：理解智能的本质是 AI 发展的终极目标

2019 年 5 月 18 日 AI科技评论

AI 科技评论按：今年，IJCAI（国际人工智能联合会议，International Joint Conferences on Artificial Intelligence）将于 8 月 10 日至 16 日在中国澳门隆重召开。作为国际人工智能领域最顶级的学术会议之一，IJCAI 始终都是该领域研究者关注的焦点会议之一。

此前，我们开启了 IJCAI 50 周年特别报道，介绍了 IJCAI 2019 对于 IJCAI 本身以及中国所承载的历史性意义，并一一点名了在这两段历史中留下姓名的科学家们，包括：

11 位 IJCAI「卓越研究奖」获得者：Judea Pearl、 Donald Michie、 Nils Nilsson、 Geoffrey E. Hinton、 Alan Bundy、Victor R. Lesser、Robert Kowalski、 Hector Levesque、 Barbara Grosz、 Andrew Barto、Jitendra Malik；

5 位 IJCAI「中国学者第一人」：林尧瑞教授、张钹院士、陆汝钤院士、林方真教授以及杨强教授。

日前，AI 科技评论有幸采访到了 2007 年 IJCAI「卓越研究奖」得主 Alan Bundy，就他的个人研究生涯、当前对于机器学习和 AI 危机的讨论以及 IJCAI「卓越研究奖」的获奖经历等进行了对话。

Alan Bundy，英国皇家科学院院士、爱丁堡大学教授。他的主要研究方向为自动推理，重要研究成果包括证明规划（Proof-Planning）、元级推理的证明搜索（Meta-level Reasoning to Guide Rroof Search）等。他曾担任 AAAI 创始 Fellow、欧洲人工智能联合会（ECCAI）Fellow、皇家工程院 Fellow（FREng）、ACM Fellow、英国皇家艺术协会会员（FRSA）以及英国皇家学会会员（FRS），此外，他还是 2007 年 IJCAI「卓越研究奖」以及自动推理领域最高奖「Herbrand 奖」的获得者。

因偶然的契机从数学转向自动推理

1968 年和 1971 年，Alan Bundy 先后在莱斯特大学获得数学学士学位和数学逻辑学博士学位。而之后转到使其闻名世界的自动推理领域，Alan Bundy 自身更多地归因为：偶然的契机。

博士毕业后的 Alan Bundy，希望能够利用自身在逻辑方面的积淀来解决实际问题，而自动定理证明（Automated theorem proving）似乎是他能够选择的一个顺理成章的研究方向。如果说这还是 Alan Bundy 当时想转变研究方向的一个想法，那他在博士期间认识的 Bernard Meltzer 则让他这一想法变成了现实：当时，Bernard Meltzer 已加入爱丁堡大学领导世界领先的 ATP 研究组，恰好正在招收博士后，于是 Alan Bundy 便申请了这一岗位，并最终成功获得录用。由此，Alan Bundy 便正式开启了他在自动推理方向的研究生涯。

ATP 研究组将推理的严谨和搜索方向的启发式方法进行了理想的结合，这一点深深地吸引了 Alan Bundy，同时更让他意识到了一个核心却被忽视的问题：推理表示的自动形成。之后，基于这一思路，Alan Bundy 领导研究小组在开展 Mecho 项目中就解决了推理表示的自动形成问题。「Mecho 项目通过将英语理想化为场景的一阶表示，然后提取和求解联立方程，解决了用英语表示的力学问题。」

「最近，我也回到这一领域进行研究，对错误的表示进行诊断和修复，因为随着我们更加依赖于噪音网站和手动构建的本体，这一问题的解决也变得越发重要。」

一直到退休，Alan Bundy 始终都在爱丁堡大学任教，他在采访中表示：「爱丁堡大学发展成为了全球 AI 研究的四大中心之一（美国之外的唯一一个），在我加入后的四十多年时间里，我找不到离开爱丁堡大学去其他机构的理由。」

研究生涯最具代表性成果：证明规划

证明规划（Proof-Planning）是 Alan Bundy 研究生涯中最为人所称道的一项成果，他表示，这也是他个人认为最具代表性的成果。

「证明策略可以指导定理证明器解决一部分证明问题。研究者通过给这些策略制定前置和后置条件，可以构建某个证明的规划。如果规划失败，研究者就能够使用前置和后置条件来分析故障原因并修复证明尝试。其中，经过我们改善后的最佳策略就是 rippling，它能够指导目标改写，从而使得将给定条件应用到目标证明中成为可能。而给定的条件可以是归纳假设，也可以是假设证明的假设或公理。同时，在对 rippling 故障的分析中，也可以体现策略是否缺少了中间辅助定理和普遍原理——而这些，此前都被认为是要求人为干预的。」

虽然已退休七年，Alan Bundy 现在依旧在他所热爱的研究领域勤耕不辍，他提到，近期他最引以为豪的一项工作成果叫做 Reformation：

「这是一个领域独立的算法，用以诊断和修复故障逻辑表示，也就是说研究者通过证明某个错误的定理或证明无法实现正确推测的错误来找到故障。此前针对这一问题的解决方法是信念修正（belief revision），即删除错误公理或不明推论，并添加正确的推论。而 Reformation 则为修复提出了一个新的方向，它通过改变理论的语言来实现修复，例如拆分或融合概念，或者添加、消除概念的独立性。它基于匹配算法、联合，可以分解在错误定理证明中不想要但是成功的联合，或者能够赋能正确推测的拖延证明中想要但失败的联合。」

除此之外，Alan Bundy 表示，他现在还热衷于自动推断策略的研究，具体研究方向包括从 Web 上的信息多源到通过组合各种推理方法的新知识推断，例如统计学和演绎等。「举个例子，我们的 FRANK（Functional Reasoning Acquires New Knowledge）系统就通过在已知数据上利用回归来构建功能，之后再将其推断成未来数据，从事实现自动预测。」

与所有研究者一样，Alan Bundy 在其几十年的研究生涯中也遇到过不少挑战和挫折，不过，他在回顾自己所遇到的问题时，显得格外乐观，他表示：虽然他无法用「好」这个字眼来形容他此前在研究中遇到的问题，但是他有一套克服研究困难的窍门：

首先，我一直都坚持招收最好的博士后和学生。并且在招收后，我就会相信他们能做好其所能做的工作。这也是我从我的第一任领导 Bernard Meltzer 那里学到的重要经验。

但是不久后，优秀的研究人员可能就会想离开我的研究小组并开始成立自己的研究小组。对于这一点，比起认为我失去了一位关键的团队成员，我更愿意将其视作一个外部合作的新机会。

同时，我认为有好的判断能力去选择合适的研究平台也非常重要。一些新的编程语言或工具包可能看上去符合你要求的理想技术，但你同时还要确保这些平台始终得到充分维护。否则，在被使用几年后，它可能会坏掉，而你此前所有的投入也将付诸东流。此外，知道什么时候跳出来你的某个，也是至关重要的。

关于机器学习的一些思考

Alan Bundy 作为传统 AI 领域的代表性人物，在采访中也就当前非常热门的机器学习表达了他的肯定与顾虑：

「统计机器学习在近年来取得了巨大的成功，并且可以说，正是机器学习真正让 AI 引起了大众的广泛关注。然而，它同样也存在局限性，例如，机器学习在推理的解释性方面要求大量的样本，并且这一方法无法构建像程序这样的复合结构。

因此，我也非常开心能够看到当下对于所谓的第三波 AI 浪潮的讨论，在这波浪潮中，AI 的符号和次符号方法都被视作能够解决任意方法局限性的混合系统的潜在补充。我自己也开始进行这个方向的研究实验，并期待有合作者来共同进一步探索其可能性。」

另外针对当前「深度学习过热」这一重要议题，Alan Bundy 也结合自己的研究生涯，提醒大家要辩证地看待深度学习这一研究方法：

「实际上，这类过热现象往往会限制 AI 的发展，我的研究生涯就横跨了 AI 历经的几个发展阶段，就比如说上世纪 80 年代专家系统的爆发式发展。虽然每个阶段出现的一系列 AI 新方法都给研究者带来了非常有用的新工具，但是对于“使用某一种重要方法就能解决 AI 所有的问题”的这种错误预期，则会导致不切实际的遐想，并且最终会给人类带来失望。我认为统计机器学习的成功是毋庸置疑，其使用的 S 型曲线（S-Curve）能够接近最优解的临界值，给 AI 领域的研究带来了巨大的价值。同时，我也认为下一个 AI 寒冬不会到来。另外，我希望现在这第三波 AI 浪潮能够创造各色各样的新机遇和新成果。」

笨拙、低效、无能才是 AI 最大的危机

AI 领域中一直都有声音警示 AI 目前存在或未来将到来的危机，其中不少人认为 AI 过于智能将对整个人类物种造成威胁。而 Alan Bundy 对此的观点有所不同，他曾在计算机学会杂志《ACM 通讯》（Communications of the ACM）上表示：AI 的威胁的确存在，但威胁并不来自于类人智能 AI 的出现，正好相反，威胁来自于笨拙、低效、无能的 AI。

「我认为 AI 的笨拙、低效、无能将会带来非常严重的危机。没错，大量 AI 系统确实取得了不小的成果，然而它们距离成为真正理想的专家还存在距离。它们也许实现了世界级的性能，但都还只能应用于非常狭隘的领域，或者用于下围棋，或者用于自动驾驶、一般的知识问答等。然而，一旦将这些单个系统用到其能力以外的领域，它们将会带来各种大型「翻车」现场。就比如说让 AlphaGo 去驾驶车辆，这无疑将带来巨大的安全隐患。再比如，心脏诊断系统如果被用来诊断癌症患者，带来的就不仅仅是误导，更会给这些患者带来严重的伤害。

目前关于 AI 奇点、AI 系统将让人类失去主人地位的危机论，实际上干扰了我们对于 AI 所存在的这些真正危机的注意力。一些由带有局限性的 AI 系统组成的解决方案一旦被应用到其特定能力以外的领域，它们的笨拙、低效、无能显而易见。」

基于这一担忧，Alan Bundy 提出 AI 发展的终极目标是：理解智能的本质，尤其是认知。

「我认为不存在任何自然现象会永远都超出我们的理解范畴，而 AI 则是当前我们理解智能的最佳选择。一个类比就是我们对于飞行的理解。我们没有利用对飞行的理解去创造出人造鸟，而是建造了飞机。同样地，我们并不是要利用我们的智能知识去创造人类的替补，而是创造丰富的 AI 工具来增强和延展人类智能。一些 AI 在特定领域或许已经超越了人类能力，而我希望这些领域能够在范围和专业知识方面有所增长。我可不希望我们创造出一个超级机器人种族来接管我们这个世界，我们没有这样做的理由。

尽管，现在存在着某种威胁，即人类有可能制造出对人类和文明造成严重破坏的自主武器，但是这种威胁比起刻意设计，更带有偶然因素，所以我们必须坚决反对这种行为。」

IJCAI 2007「卓越研究奖」得主遇上 IJCAI 50 周年

作为 2007 年 IJCAI「卓越研究奖」得主，Alan Bundy 也成为了 IJCAI 历史篇章上浓墨重彩的一笔。回忆起当时得知自己获得了 IJCAI「卓越研究奖」的心情，Alan Bundy 用了「Mostly surprise」来形容。

「我猜我们这些获奖者在得知自己获得了这一奖项的那一刻，基本上都好似患上了某种程度上的冒名顶替综合症（Imposter Syndrome）。IJCAI「卓越研究奖」在我心里就是 AI 领域的最高荣誉，所以当时我简直不敢相信我的研究被授予了如此重量级的奖项。而这个奖项也让我成为了我颇为尊崇的 AI 英雄行列中的一员。

不仅如此，这个奖项也成为了我在正式退休后的七年时间里依旧活跃在 AI 研究领域的支撑之一，我希望我还能够做出一些成果，让我在回顾自己的研究生涯时能够说：我的研究值得获得这一奖项。」

Alan Bundy 曾作为 AAAI（1990 年）和 ECCAI（1999 年）等起源于区域会议系列的学术会议的 Founding Fellow，因而他也更加能够了解 IJCAI 所扮演的独特性角色：

「IJCIA 自创立以来就是世界性的会议，迄今为止已莅临全世界的多个国家和地区召开，也吸引了众多来自全球各地区的 AI 研究者们。我认为 IJCAI 的这一特点非常重要，这也是其他区域性会议所无法比拟的优势。

当不同研究领域的多个观点进行交流互动时，往往会碰触出一个全新研究方向的火花，IJCAI 便是能够实现这些碰撞的理想胜地。特别是，IJCAI 的 workshop 能够让分布在全球各地的志同道合的研究者们汇聚一堂，分享交流观点。

AI 是整个人类共同努力的成果，需要得到全世界的重视——而这便是 IJCAI 能够实现的。我希望，IJCAI 在今后依旧能够继续在推动分布于世界各地实验室的研究者们之间的共同协作上，发挥着自己的独特作用。」

今年恰逢 IJCAI 的 50 周年，对于本届意义非凡的 IJCAI 会议，Alan Bundy 也非常骄傲而感慨地表达了自己的祝福：

「祝 IJCAI 50 周年快乐！1971 年，我参加了在伦敦召开的第二届 IJCAI 会议，当时会议的规模远无法同现在的相提并论。真的很开心看到 IJCAI 发展得如此盛大，同时还汇聚了来自如此多不同国家 AI 研究团队。我衷心祝愿 IJCAI 能够一如既往地推动 AI 的全世界发展，吸引世界级的出版媒体，并一直作为国际研究者合作的重要汇聚盛会。同时，我更希望，AI 领域在下个 50 年依旧会出现如此多出色的研究成果，祝福 IJCAI 的 100 周年！」

最后，AI 科技评论也代表广大研究者向 Alan Bundy 这位在 AI 领域成绩斐然的科学家取了一回经。Alan Bundy 本人也向后辈研究者们分享了自己认为最重要的两点建议：

一方面，永远要研究重要的问题。对于一些并不重要的问题，即便你取得了成果，也没有什么太大意义，但是如果你失败了......。然而，对于一些重要的问题，即便你最终失败了，在这个过程中你或许也能做出某种程度上的贡献——即便只是判别出某项技术没有什么用，这也可以为其他研究者节省不少时间。
另一方面，不要给自己制定不切实际的目标，尤其是当你在完成一个具有挑战性的 deadline 时，例如说要拿到博士学位，更是要制定贴合实际的计划和目标。对于一些重要的研究问题，你没必要让自己一开始就朝着完全解决这个问题的目标出发，而是首先判断自己能够做出显著同时也是自己力所能及的成果、对这个研究领域具有贡献性的事情是什么，再进行规划。在这个过程中，你还需要明白的一点是：你之后的研究生涯，会给你足够多的时间去做出更多的成就！

随着「IJCAI 50 周年特别报道」采访计划的推进，AI 科技评论后续还将为大家带来一系列采访报道，欢迎大家前往雷锋网 AI 研习社专门开设的 IJCAI 小组（点击阅读原文直达小组）向各位学者提问，而我们也将有选择性地将大家的问题传达给各位学者，并最终以文字的形式反馈给大家！

2019 全球人工智能与机器人峰会

由中国计算机学会主办、雷锋网和香港中文大学（深圳）联合承办的 2019 全球人工智能与机器人峰会（ CCF-GAIR 2019），将于 2019 年 7 月 12 日至 14 日在深圳举行。

届时，诺贝尔奖得主JamesJ. Heckman、中外院士、世界顶会主席、知名Fellow，多位重磅嘉宾将亲自坐阵，一起探讨人工智能和机器人领域学、产、投等复杂的生存态势。