乱!Bengio一席话引发Marcus与LeCun「舌战」,还有DL帝国主义?

2018 年 11 月 23 日 机器之心

机器之心报道

机器之心编辑部


Gary Marcus 又双叒叕吵架了!这位纽约大学著名心理学、神经科学家怼深度学习不是一天两天了。今年年初,Marcus 发表了一篇长文对深度学习的现状及局限性进行了批判性探讨,当即引发了一场舌战。近日,因 Yoshua Bengio 接受 MIT TR 的一篇采访,Gary Marcus 再次舌战群 DLer。这场隔空喊话略有失控的倾向。



在社交媒体上,Gary Marcus 的推特像点燃了火药桶一样引来了众多人工智能学者的评论。Marcus 对 Bengio、Hinton、LeCun 的指责更是让 LeCun 本人与他进行了旷日持久的「切磋」。


在 MIT TR 这篇名为《人工智能巨头对 AI 未来的担忧》的采访中,Yoshua Bengio 发表了对未来研究的几点看法:


谈到「关于人工智能的新研究,最让你最兴奋的是什么?」Yoshua Bengio 说道:我认为我们需要考虑最困难的挑战,而不应满足于短期、渐进式的目标。我没有要撇开深度学习的意思。正相反,我们应该将其扩展,使它能够推理、学习因果关系、探索世界,从而学习和获取信息。


如果我们真的想实现人类水平的 AI,那完全就是另一件事了。我们需要长期投资,而学术界才是保存火种的最佳场所。


因果关系为什么这么重要?Yoshua Bengio 表示,「如果你有一个很棒的推理模型,你甚至可以在信息不多的情况下进行推广。这至关重要,因为人类是可以做到将自己的经验投射到与日常生活体验完全不同的环境中的。机器现在还不行,因为它们没有因果推理模型。



我们可以手动设置规则,但这还不够。我们需要能够发现因果模型的机器。在某种程度上来说,这种机器永远不会是完美的。因为我们永远不会得到一个完美的现实因果推理模型;这就是为什么人会犯错。但是相比其它动物来说,我们做得更好。


当前,在这方面我们还没有真正足够好的算法,但我认为如果有更多人在这方面进行探索,并认识到它的重要性,我们终将获得进步。」


对 Bengio 的言论,Marcus 翻起了旧账,发推特评论道:



「我没有要撇开深度学习的意思……但我们应该将其扩展,使它能够推理、学习因果关系、探索世界。」Yoshua Bengio 的这番话与我 2012 年在《纽约客》上发表的言论并没什么不同。


此番酸味十足的话,先是引起了 CMU 助理教授 Zachy Lipton 的回应:这句话问题太多了。1)说话声音大不等于是第一个说的。你不能自居为区分了推理和模式识别。2)说「X 无法解决 Y」简直太容易了,但你能不能提出 Y 的解决方案呢?


重点来了!随着激辩的的升级,Yann LeCun 直接怼了回去,斥其光说不练:


你所说的这番话,Yoshua 和我还有其他人已经说了很长时间了。与你不同的是,我们为此去做了一些尝试,而不是批评别人没有这么做。


Gary Marcus 避重就轻,反击道:


以下是我 2001 年就一直在说的话:「为了捕捉语言和思维的合成性(compositionality),神经网络必须辅以符号操作的关键组成部分。」这话你同意吗?在我们的辩论中,你说过「反对」。你现在的立场呢?


AI 的真正问题是:我们能在没有符号操作的情况下进行因果关系推理吗?当时 Yann LeCun 和 Hinton 等深度学习创立者认为能,而我觉得不能。


加州大学洛杉矶分校助理教授 Guy Van den Broeck 的回复:


这有什么值得讨论的?至少从 1986 年开始,几十年来人工智能的整个子领域都致力于符号推理,包括结合统计推断的混合方法。


对此,Gary Marcus 把矛头转向了深度学习先行者们对于话语权的把持:


你说的没错。问题在于那些深度学习先驱们的「帝国主义」,比如,Lecun 等人 2015 年发表在《Nature》上的文章就呼吁「用大向量运算取代符号表达式基于规则的操作」。这种尖锐的观点与混合模型背道而驰。


Yann LeCun 回应道:



联结主义的帝国主义?在符号主义统治了半个世纪之后?搞笑吧?我并没有因为人们研究我觉得不对的方法而去批评他们。我只是用自己认为正确的方法去做研究,并在该方法起作用之后向世人展示结果。这就是工程,好的结果胜于雄辩。


Gary Marcus 的回复:


别急着反对,但有时候有些工具需要重新研究或者发明,如果不首先考虑清楚,很难知道什么时候该这么干。任何时候,科学和工程领域的主导思想并不意味着它是最好的。更重要的是要知道我们是否步入了正轨。


不,Lecun 你想抑制人们对混合深度学习-符号模型的兴趣。你主张用无监督学习来推理,但却没有任何实际结果来证明它有效。但你却因为符号主义缺乏结果而否定它。# 双重标准


Yann Lecun 2018 年发表了这样的言论:「我并没有因为人们研究我觉得不对的方法而去批评他们。」2017 年 LeCun 也曾发表这样的观点:「我并不否定 DeepMind 的朋友们对 AlphaGo 所做的工作,但把它作为通用智能的一大进步却是不对的,事实并非如此。」


是的,联结主义的帝国主义是存在的,就像早期的符号主义帝国主义一样。一个例子是:「如果要解决任何旧有的预测问题,你现在有很多数据,那么深度学习可能会比已有技术更加有效。」



MLWave 表示:


Yann LeCun、Yoshua Bengio 和 Geoffrey Hinton 发布在 Nature 上的文章结尾是「我们需要作用于大向量的新范式来替代基于规则的符号表达式操作」。Bengio 提倡深度学习和无监督学习至少有 10 年了。From Machine Learning to Machine Reasoning,https://arxiv.org/abs/1102.1808 (2011)。


Gary Marcus 的回复这次更加充满了火药味:


我最近挑战了 Hinton 和 Yann LeCun 2015 年 Nature 论文中的观点。我仍然保持我的论断,即他们的观点抑制了深度学习的发展,Edward Grefenstette 等人的勇敢研究除外。


有人也在指责这次讨论的必要性,AI 数据公司 Corto 首席执行官 Yves Bergquist 表示:


难以相信我们还在争论这么明显的事实,只要环顾四周就能清楚地发现对象内的对象、符号内的符号的超参数结构。我们需要解决的是如何计算系统的系统(降维是关键)。


发酵了 2 天,这场论战还未看到平息的迹象。


在人工智能顺着深度学习的轨道快速发展的今天,一些先驱者还在不断思考着「我们是否在走正确的路」。但在社交媒体的环境中,这些论战看起来就在我们眼前。满足人们好奇心的同时,这些观点孰是孰非还有待时间的验证。



  1. 点击阅读原文填写报名表单,工作人员在审核后会发送评选申请表格。

  2. 申请企业需按照要求填写评选申请表格。

  3. 未尽事宜可添加机器之心小助手:syncedai3 进行咨询;添加好友请备注「年度评选」。

登录查看更多
4

相关内容

Gary Marcus是一位科学家,作家和企业家。他的研究专注于自然和人工智能。Marcus是纽约大学心理学系的教授,并且是后来被Uber收购的机器学习公司Geometric Intelligence的创始人兼首席执行官。他是Robust.AI的创始人兼首席执行官,并且是2016年被Uber收购的机器学习公司Geometric Intelligence的创始人兼首席执行官。
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
109+阅读 · 2020年7月10日
最新《深度学习自动驾驶》技术综述论文,28页pdf
专知会员服务
127+阅读 · 2020年6月14日
深度学习的冬天什么时候到来?
中国计算机学会
14+阅读 · 2019年7月17日
Hinton号召AI革命:重头再来;李飞飞等赞成:深度学习不是唯一
【因果关系】由模仿“人脑”转向“因果推理”
产业智能官
10+阅读 · 2018年7月13日
Marcus十大理由质疑深度学习?LeCun说大部分错了
大数据文摘
4+阅读 · 2018年1月4日
Arxiv
21+阅读 · 2019年8月21日
Arxiv
5+阅读 · 2018年3月29日
Arxiv
8+阅读 · 2018年1月25日
VIP会员
相关VIP内容
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
109+阅读 · 2020年7月10日
最新《深度学习自动驾驶》技术综述论文,28页pdf
专知会员服务
127+阅读 · 2020年6月14日
Top
微信扫码咨询专知VIP会员