AI先驱Judea Pearl：机器人一定会有自由意志
在一篇专访中，人工智能先驱Judea Pearl认为，人工智能已困在泥淖之中达数十年：大多研究困于概率关联，而忽视了因果关系的重要性。那么，他会为这个领域出现的症状开出什么处方呢？他表示，应该教会机器理解因果关系。
Judea Pearl为人工智能的发展贡献了很多智慧。在20世纪80年代，在他的带领下机器终于能够进行概率推理。现在，他却成为这一领域最尖锐的批评者之一。在他的最新著作“The Book of Why：The New Science of Cause and Effect”中，他认为人工智能的发展正因人们没有完全理解智能的真正含义而遭遇阻碍。
三十年前，人工智能研究面临的主要挑战是让编程机器找到一系列可观察条件与潜在原因之间的联系。Pearl用一种称为贝叶斯网络的方案解决了这个问题。贝叶斯网络使得机器能够根据一位从非洲回来的人发烧并感到身体疼痛的症状，推断出此人最有可能患有疟疾。2011年，Pearl赢得了计算机科学领域的最高荣誉——图灵奖，在很大程度上得益于这项工作成果。 （https://amturing.acm.org/award_winners/pearl_2658896.cfm）
但是，正如Pearl所看到的那样，人工智能领域陷入了概率关联的泥淖之中。如今，到处都是机器学习和神经网络最新突破的头条报道，以及计算机可以下棋、操控自动驾驶车辆的消息。这让Pearl感到烦恼不已。在他看来，今天人工智能领域的技术水平只不过是上一代机器已有功能的增强版：在大量数据中发现隐藏的规律性。“所有令人印象深刻的深度学习成果都只是曲线拟合。”他最近说道。
在他的新书中，现年81岁的Pearl详细阐述了智能机器如何真正思考的愿景。他认为，做到这一点的关键在于用因果推理来取代推理。机器不仅需要具备将发热和疟疾关联起来的能力，还需要具备推断疟疾引起发烧的能力。一旦构建了这种因果关系框架，机器就有可能提出反事实的问题——询问某种干预引起的因果关系将如何改变。这被Pearl视为科学思想的基石。Pearl还提出了一种形式化的语言，让这种思维成为可能——一种21世纪的贝叶斯框架让机器可以用概率思考。
Pearl期望因果推理可以赋予机器人类智能。他解释道，它们可以更有效地与人类沟通，甚至可以获得具有自由意志和作恶能力的道德实体（moral entities）地位。Quanta Magazine对Pearl进行了采访，以下为采访的精要内容。
Q：为什么你的新书叫做“The Book of Why”？
它是对过去25年来我从事的关于因果关系的工作，它在一个人生活中的含义，它的应用以及我们如何回答固有因果问题的总结。奇怪的是，这些疑问已经被科学抛弃了。所以这本书是对这种科学的忽视做出的弥补。
Q：您认为科学已经放弃了因果关系这一说法很有戏剧性。难道这不正是科学的全部内容吗？
当然，但是在科学方程式中你看不到这种高尚的愿望。代数的语言是对称的：如果由X得到Y，那么由Y可以得到X的信息。我说的是确定性关系。我们无法用数学写出一个简单的事实——例如，即将到来的暴风雨会导致气压下降，而不是相反。
数学还没有开发出一种能理解人类的非对称语言，即X得到Y并不意味着Y得到X。我知道，这听起来像是对科学的一种可怕说法。我要对我妈这么说，她会削我的。
但是科学更加宽容：如果我们缺乏对非对称关系的微积分，科学会鼓励我们创造这种关系。这就是数学可以发挥作用的地方。对于我来说，看到简单的因果演算解决了我们这个时代即使最伟大的统计学家也认为不明确或无法解决的问题，让我兴奋不已。所有这一切就像是在高中几何中找到证明方法那样让人愉悦。
Q：几十年前，你在AI领域因为教会机器概率推理而一举成名。告诉我们当时人工智能领域发生了什么事。
20世纪80年代初出现的问题具有预测性或诊断性。医生观察到患者的症状，并提出患者患有疟疾或其他疾病的可能性。我们希望自动系统和专家系统能够替代专业人员——无论是医生还是矿物探险家，还是其他类型的付费专家。所以当时我提出了通过概率做到这些的想法。
不幸的是，标准概率计算需要指数空间和指数时间。我想出了一个称为贝叶斯网络的方案，它需要多项式时间，并且非常透明。
Q：然而，在你的新书中，你称自己为如今AI社区的叛徒。这是为什么？
当我开发出让机器推理不确定性的工具之后，我就离开了这个领域去追求更具挑战性的任务：推理和因果关系。从这点上来说我是个叛徒。我的许多AI同事仍致力于研究不确定性。有些研究圈子继续研究诊断，而不关心问题的因果关系。他们想要的只是得到好的预测和诊断结果。
举个例子来说，我们今天看到的所有机器学习的工作都是在诊断模式下进行的——比如说将对象标记为“猫”或“老虎”。他们不关心干预；他们想做的只是识别一个对象并预测它将如何发展。
当我开发出用于预测和诊断的强大工具时，我感觉自己像一个叛徒，因为我知道这仅仅是人类智能的冰山一角。如果我们想要机器推理干预措施（“如果我们禁烟了会怎样？”）和内省（“如果我读完了高中会怎样？”），我们必须引用因果模型。关联是不够的——这是一个数学事实，而不是我个人的想法。
Q：人们对AI概率感到兴奋，难道你不是吗？
当我深入了解深度学习相关研究之后，我发现几乎所有研究都只停留在关联这一层——曲线拟合。这听起来像是亵渎，即深度学习的所有令人印象深刻的成就只是为数据拟合一条曲线。从数学层次结构的角度来看，不管操作数据的方式多么巧妙，以及在操作时写入的数据是什么，它仍然只是一次曲线拟合练习，复杂且平庸。
Q：听您谈论曲线拟合，好像您对机器学习并不是很感兴趣？
不，我对机器学习印象深刻，因为我们不能指望曲线拟合来解决这么多问题。事实证明，机器学习可以。但我说的是未来——接下来会怎样呢？我们会有一个可以计划的实验，并找到未解决科学问题答案的机器人科学家吗？这才是下一步。我们也希望与一台机器进行一些有意义的沟通，有意义是说符合我们的直觉。如果你剥夺机器人关于原因和结果的直觉，你和它们永远不会有真正意义上的交流。机器人无法像你我那样表达“我应该做得更好”。我们因此失去了一个重要的沟通渠道。
Q：出现和我们一样具有因果关系直觉的机器人时会发生什么？
我们必须为机器配备环境模型。如果一台机器没有现实的模型，那么你不能指望机器在现实中表现得很聪明。第一步，我猜可能会在10年内发生，人类将会编程具有理解和概念能力的模型。
下一步，机器将自行假设这些模型，并根据经验证据对它们进行验证和改进。这就是科学，一开始我们认为地心说是真理，到最后却将日心模型奉为圭臬。
机器人也将相互沟通，并解读这个隐喻模型的假想世界。
Q：当你今天与从事AI工作的人分享这些想法时，他们有何反应？
AI研究目前处于分裂状态。首先，有人陶醉在机器学习、深度学习和神经网络取得的成就中。他们不明白我在说什么，只希望继续拟合曲线。但是当你与在统计学习以外从事人工智能工作的人交谈时，他们会立即会意。我阅读了过去两个月中关于机器学习局限性的几篇论文。
Q：你是否认为出现了偏离机器学习的趋势？
这不是一种趋势，而是一种严肃认真寻求真相的努力，他们在寻找诸如我们要去向何方？下一步是什么等问题的答案。
Q：这是我想问您的最后一个问题。
我很高兴你没有问我关于自由意志的事情。
Q：既然提到了，您如何看待自由意志？
机器人一定会有自由意志。我们必须了解如何对它们进行编程，以及我们从中能获得什么。出于某种原因，进化上这种自由意志是计算所需要的。
Q：以什么方式？
你拥有自由意志，进化让我们具备了这种能力。显然，它提供了一些计算功能。
Q：当机器人拥有自由意志时会表现得很明显吗？
我想第一个迹象是机器人开始进行反事实交流，比如“你应该做得更好”。如果一个踢足球的机器人开始用这种语言沟通，那么我们就会知道他们已经有了自由意志。
“你应该把球传给我，我一直等着你，但你没有！”
“你应该”意味着你可以控制所有驱使你去做你需要做的事，而你却没有做。所以第一个标志就是沟通，接下来是踢球的表现变好。
Q：既然提到了自由意志，那我想请问作恶的能力是什么，我们通常认为这种能力取决于作出选择的能力。什么是作恶？
即一个人的贪婪或不满超越了所有社会标准规范。例如，有人拿出一个类似于软件模块的东西说：“你饿了，所以你有权采取行动来满足你的贪婪或不满。”但其他的软件模块劝告你应该遵循社会法则。其中一个模块被称为同理心（compassion）。当你的欲望超越社会普遍规范时，就是邪恶。
Q：那么我们怎么知道什么时候人工智能会犯罪呢？
当我们明显发现机器人持续忽略一些软件模块时。当机器人似乎遵循某些软件模块的建议但忽略其他模块时，当机器人忽略人类编程时制定好的行为规范，或本应从过去经验中学习的那些模块时。如果机器人不再遵循这些规则，那么这就是人工智能犯罪的迹象。
原文链接：
https://www.quantamagazine.org/to-build-truly-intelligent-machines-teach-them-cause-and-effect-20180515/
扫描二维码，即刻报名参与IV2018
📚往期文章推荐
🔗还用PDF读论文你就out了：打破传统的“互动式论文”已经登上舞台
🔗Ian Goodfellow：生成对抗网络GAN的公式是怎样推导出来的
🔗【YAC2018】第33届中国自动化学会青年学术年会在南京召开
🔗中国高校国际学术影响哪家强？浙大国际发文量居首，清华被引最多
🔗真学霸！这位“90后”不是海归，博士毕业直接被聘为985高校教授
🔗民办高校也能发Science！浙江万里学院80后教授团队发表一篇Science
🔗他被称作“吝啬鬼”，30年捐赠50亿，名字被镌刻在中国几乎所有的大学内
德先生公众号 ｜ 往期精选
在公众号会话位置回复以下关键词，查看德先生往期文章！
人工智能｜机器崛起｜区块链｜名人堂
虚拟现实｜智能制造｜专家智库｜科技快讯
名人轶事｜峥嵘岁月｜专题探讨｜学术活动
……
更多精彩文章正在赶来，敬请期待！
点击“阅读原文”，移步求知书店，可查阅选购德先生推荐书籍。
相关内容
微信扫码咨询专知VIP会员