干货 | 图灵奖得主 Judea Pearl：机器学习是有局限的，AI 已经分化了

我们将去向何处？下一步是什么？

2017 年 12 月，贝叶斯网络之父、2011 年图灵奖的获得者 Judea Pearl 教授在 NIPS 2017 大会期间进行了一场学术报告，结果这场报告因为一张照片而在网络上引起热议。很多人在社交媒体上表示，Judea Pearl 对着一个「几乎空无一人的房间」作报告是 NIPS 上悲惨的一幕，这一天对于机器学习而言是悲惨的一天。

不过，对于现年 81 岁的 Judea Pearl 而言，让他感到难过的不是自己的报告没人听（AI科技评论了解到，实际上那张照片获取的是片面场景，听报告的人有几十个，后来 Judea Pearl 反而被人们的议论逗乐了），而是当前的人工智能由于人们对智能的片面理解而存在诸多缺陷。

2018 年 3 月，Judea Pearl 出版了一本名为《THE BOOK OF WHY：The New Science of Cause and Effect》的新书，在书中他表达了对当前人工智能发展的忧虑。

之前，在 Judea Pearl 赖以获得图灵奖的贝叶斯网络中，他试图为机器找到一种基于实践性的因果关系模型。但是 Judea Pearl 发现，AI 领域已经陷入到概率关系的泥潭中。对于计算机已经熟练掌握古代游戏技能（比如说AI科技评论此前多次报道过的 AlphaGo）和驾驶技能之类的消息，Judea Pearl 无动于衷；因为在他看来，当前所谓的人工智能所展示的，都是上一代人工智能场景下机器已然所能做到（在大规模数据中寻找到隐藏规律）的，只不过效率更高罢了。

正如 Judea Pearl 最近所言：

所有这些令人印象深刻的深度学习成果加起来不过是曲线拟合罢了。（All the impressive achievements of deep learning amount to just curve fitting. ）

在新书中，Judea Pearl 描述了他的「智能机器应当如何思考」的愿景。在他看来，其中的关键是用因果推理取代关系推理。举例来说，如果一个从非洲回来的病人发烧并感到身体疼痛，很有可能是得了疟疾；机器要做的不是把发烧与疟疾联系起来，而是真正找到疟疾引起发烧的原因。一旦这种因果框架就位，那么机器去进行反事实提问——即如果对条件进行介入，因果关系会发生什么变化——就成为可能，而这正是 Judea Pearl 所认为的科学思考的基石。

而 Judea Pearl 也建议推出一种让上述思考成为可能的正式语言，这也是贝叶斯网络的 21 世纪版本。Judea Pearl 也希望因果推理能够为机器提供人类级别的智能；比如说，它能够与人类更高效地沟通，甚至在一定状态下成为具备自由意志（或者邪恶）能力的道德实体。

以下是 Judea Pearl 接受 Quanta Magazine 采访时的对话，AI科技评论这段对话进行了不改变愿意的编译和删节。

Q：为什么你的新书被命名为「The Book of Why」？

A：它在本质上是我对过去 25 年工作的总结，包括因果、它对一个人的生活的意义、它的应用，以及我们如何在因果关系层面寻找到一个问题的答案。奇怪的是，这些问题都已经被科学忽视了，而我在此试图对这种忽视进行弥补。

Q：难道因果不就是科学本身的内涵吗？

A：当然，但是你无法在方程式里看到这种高贵的理想。代数语言本身是对称的：X 和 Y 之间是一种确定关系。但是在数学范畴内却没有一门语言描述这样一个简单的事实：暴风雨的来临会导致温度计读数下降，而非其他。换句话说，数学领域还没有发展出一种非对称语言来描述我们对「X 和 Y 非对称关系」的认知——这听起来是对科学是一件不利的事情，我也明白。

不过，科学还是值得原谅的。在意识到我们依然缺乏一种针对非对称关系的演算方式之后之后，科学鼓励我们去创造一个，这时候就用到了数学。而令我感到兴奋的是，能够通过一个简单的因果演算方式来解决我们这个时代最伟大的统计学家都不能解决的问题，这种自在和乐趣就像是在高中几何中找到证明方法一样。

Q：在数十年前你在 AI 界获取了名声，为什么又在新书中把自己描述为 AI 社区的背叛者？

A：在获得此前的 AI 成就之后，我开始探索一项更具挑战性的任务：通过因果进行推理。我的许多 AI 同行依然与不确定性打交道，从而局限于持续推断的研究循环中，却对问题的因果层面无所触及。他们只是想更好地预测和推断。比如说我们今天所看到的机器学习任务一般都是以推理模式进行的，他们去标注一个「猫」或「虎」，但不关心介入——他们只是想识别一个物体然后预测它会如何随时间变化。

我开发出了一个用于预测和诊断的高效工具，然而它们却只能触及到人类智能的点滴；由此，我觉得自己就像一个背叛者。如果想让机器对介入（Interventions）和内省（Introspection）进行推理，我们必须借助因果模型。联系（Associations）本身是不够的——我陈述的是一个数学事实，而非观点。

Q：人们对 AI 的诸多可能性感到非常兴奋；难道你不是吗？

A：就我对机器学习当前的深入观察而言，我觉得目前它们都还停留在联系的层面；或者说是曲线拟合——所有这些令人印象深刻的深度学习成果加起来不过是对数据进行曲线拟合罢了。从数学分层的观点来看，不管你能够对数据进行如何熟练的操作，也不管你在操作过程中读取到什么，它依然是一个曲线拟合的练习，尽管这种练习是复杂和非凡的。

Q：每当提到曲线拟合的时候，你似乎都在表达对机器学习没什么感觉。

A：不，我有。其实我们没有意识到原来这么多问题可以用曲线拟合的方式解决，但事实证明可以。

但我在追寻未来——What is Next？会有这样一个机器人科学家，能够通过实验为亟待解决的科学问题寻找到答案吗？这次是下一步要做的。我们还想与机器进行有意义的、符合我们直觉对话；而如果机器人缺乏对你我这样的对因果的直觉，那么就很难与之进行有意义的对话。我们会说「我本可以做得更好」，但机器人不会。因此我们在沟通中就失去了一个重要的途径。

Q：如果机器拥有了我们人类这样的对因果的直觉，那么会怎么样？

A：我们需要赋予机器一个环境模型。如果一个机器没有对现实的概念，你就不能指望它在现实中表现出智能行为。这是第一步，人类将在 10 年内构造出现实世界的概念模型。

第二步，机器将以自己的方式对上述模型进行带入并验证，然后基于实验数据进行优化。这恰好是科学发生的过程，我们从地心说模型开始，最后得出一个日心说模型。

机器人之间也将彼此沟通，并最终把这个抽象世界转换成比喻性的模型。

Q：当你与其他 AI 从业者分享上述观点的时候，他们的反应如何？

A：AI 目前是分化的。首先，有那么部分人陶醉于当前机器学习、深度学习和神经网络的成功中，对我所说得这些毫不理解；他们想继续进行曲线拟合。但是，如果你与一个已经在静态学习之外的 AI 领域中有所研究的人进行交谈，他们立刻就能明白。我已经读了好几篇发表于过于两个月的、对机器学习的局限进行论述的论文。

Q：你是说，有一个正在脱离于机器学习之外的发展趋势吗？

A：不是趋势，而是一种基于灵魂追寻的重要努力。它在发问：我们将去向何处？下一步是什么？

对了，我们招人了，了解一下？

BAT资深算法工程师独家研发课程

最贴近生活与工作的好玩实操项目

班级管理助学搭配专业的助教答疑

学以致用拿offer，学完即推荐就业

扫码或点击阅读原文了解一下！

┏(＾0＾)┛欢迎分享，明天见！