【大佬约架】Yoshua Bengio与Gary Marcus之圣诞AI论战「 AI 之道」，附视频地址与slides下载
【导读】本周一晚，针对近期社交媒体上关于”AI混合系统“问题引发的广泛讨论，深度学习大牛Yoshua Bengio与Gary Marcus在蒙特利尔市MILA研究所进行了一场两小时的公开辩论。
https://montrealartificialintelligence.com/aidebate/
事件回顾
从去年以来，纽约大学教授兼企业家Gary Marcus就不断针对深度学习理论发表批判言论，此举不但在社交媒体上引起广泛争议，而且使得各方大佬（Yann LeCun，Yoshua Bengio）纷纷加入论战行列。
从今年10月份开始，Gary Marcus就在网络上一来一回的进行“互怼”，首先是Bengio介绍深度学习下一步研究方向时，Gary Marcus表达了不同的观点，使得Bengio在Facebook上进行回应：
紧接着Gary Marcus在Medium上发表了一封公开信进行回应：
链接：
https://medium.com/@GaryMarcus/the-current-state-of-ai-and-deep-learning-a-reply-to-yoshua-bengio-77952ead7970
最终引发了这次公开辩论。
辩论内容
两位人工智能领域先驱之间的历史性争论，主要是围绕了一个大问题——为创建AI混合系统，寻找出正确的知识先验。二者在这一问题的细节上，有着大量的分歧。
纽约大学教授兼企业家Gary Marcus，因为经常公开批评深度学习而出名；而深度学习领军人物Yoshua Bengio，因其开创性的工作而获得了图灵奖。两位持不同观点者于周一晚上，在Bengio的MILA研究所总部进行了一场两小时的辩论。
两位学者似乎在AI基础研究方面有着广泛的共通点，比如视图试图将推理带入人工智能体系，但是，当讨论特定术语及历史主张时，二者突然发生了冲突。
官方视频链接如下：
https://www.facebook.com/MontrealAI/videos/498403850881660/
Marcus首先回顾了他的职业生涯，并指出他作为认知科学家，已经在儿童学习研究中完成了首次大数据分析实践。这一过程一直回溯到了1990年，他对神经网络无法在训练空间之外学习到通用性这一点感到吃惊。他认为，神经网络的失败，是“先验现象”更加丰富的一个有力支撑，这种信息似乎不仅仅是靠学习，而是通过进化建立到有机体内的。
同时，他澄清说，自己从未说过应该放弃深度学习，而应该将深度重新定义为工具。他和Bengio的分歧之所以较大，是因为bengio过于依赖于“深度学习黑箱”。同时他表示：”最近，bengio急剧转向了我长期以来一直主张的立场“，这意味着，将某些机器学习和某种形式的符号操作结合，混合人工智能系统的概念。
尽管Marcus说，非常佩服Yoshua，并认为Yoshua应该成为诚实智慧的榜样，但Marcus还是批评了Yoshua，认为没给予自己合适的荣誉。”我希望他引用我，否则会使我的贡献贬值“。
Bengio总结了他最近的主要兴趣点是关于，神经网络如何对训练数据之外的样本进行泛化的问题，他引用了一篇最近发布在ICLR会议上的论文，A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms。【图灵奖Yoshua Bengio ICLR 2020第一作者论文】通过元学习发掘因果机制
Bengio快速阐述了对待所有AI问题的看法，他认为深度学习为我们的工具箱中添加了很多原则，并不局限于某种特定体系结构或者特定的训练过程，而更像是一种哲学。
深度学习受到大脑运行方式的启发，通过某种方式（多目标、多部分协同）进行优化。
在谈到和Gary重合的研究点时，Bengio表示，他并没有非常关注于组成性（compositionality），他指出，人脑可以通过一种新奇的方式整合现有概念，人们虽然无法解释这种现象，但对其的思考已经持续了好几年。
作者们一致同意，目前AI系统需要一种混合方法，不但需要某种先验条件，而且还应该具备一些可以在high-level层面上操作的values，二者对于这种values的表述大同小异，Marcus称其为”symbols”，Bengio称其为”variables”。两位学者都广泛引用了科学家丹尼尔·卡尼曼（Daniel Kahneman）在《思考，快与慢》中的表达方式，认为思想体系有两种，这种结构似乎同时适合于Marcus和Bengio作为理论框架。
但是当他们开始举例时，两人很快就意见相左了。例如，对于混合系统的问题，Marcus问Bengio,“为什么你不同意混合方法是答案的一部分呢？”，对此Bengion回复说：“这取决于你所谓的混合方法到底意味着什么...”。Bengion说如果你所谓的混合方法是把新生的和旧有的AI算法混合在一起，比如rules和logic，即尝试着把这些方法揉和到已经不起作用的神经网络中去，我对此当然不感兴趣。
Marcus力挺符号主义，指出深度大脑赢得围棋比赛的AlphaZero程序就是一个包含符号主义在内的混合系统，因为它使用了Monte Carlo树搜索。Marcus说：“你必须在树上进行搜索查找，而树就是符号。”
Bengion 不认为树搜索是一个符号系统。Bengio说：“这是个文字问题，你可以称呼它为符号，但是符号对于我而言是不同的，因为它们与概念的不确定性有关。”
Marcu回答道：“我们都认为对方是稻草人，也就是说我们对对方的立场都进行了过分简单化的描述，作为打击对方的策略。”但是，Marcus坚持认为“我们正在从观点对立向立场一致转变。”
Bengion回复说：“我不在乎你想用什么词，我只是想做些有用的东西。”扩展的交换与先验的概念有关，先验知识被认为是一种结构上的给定，它使此后的一切成为可能。Marcus认为Bengio想要的是“软先验（soft prior）”，这也许与Marcus所主张的“富先验(rich prior)”恰恰相反。“我想要尽可能少的先验知识。”Bengio说，Marcsu回应道，“我们在口味上有分歧——我不想要太多，我想要的仅仅比你多一点而已。”
事实上，讨论中之所以有许多观点冲突之处很可能是由于这两位学者来自不同的地方。Marcus描述了一种他乐于看到的系统，这是一种基于认知功能并且可以观察的系统，从广义的角度上来说，Bengio则沉浸在当前科学实验的细节中，主要关注他们能做什么，不能做什么。
“这是一种变革，”Bengion说。“我们正在研究的不仅仅是一个算法，而是扩展已有的i理论集合 。
当辩论进入问答环节时，听众提出了各种有趣的问题。比如：深度学习所需要的先验知识是什么？机器学习可以花更少的经历放在“手工”和创建架构方面，而把更多的精力放在“元学习”上吗？量子计算会改变人工智能吗?
至于使人工智能获得意识，虽然没有人知道意识到底是什么，而讨论这个问题所要花费的时间要远远超出这场辩论规定的时间。但Bengio暗示，至少今天的人工智能远非如此。他说，“哲学家们会问，我们最终是否应该赋予机器人性，但我认为我们对这个问题的理解还远远不够，目前无法给出答案。”
辩论快要结束时，Marcus和Bengio都有机会从广义的角度讨论道德问题。正如一位观众所说，“令我感到不安的一件事情是：在所有的这些人工智能算法中，竟然没有任何关于制衡策略和道德伦理的内容；作为人类，我觉得这非常令人不安。”
Marcus回答说:“我自己的观点是，常识可以被用作构建框架的一种方式，而这种框架将能够使得机器体现出一种价值观念：我们想要机器人不要做伤害人类的事。
Bengio补充说这个问题“相当重要”。而且，在技术问题之外，“至少同样重要的是我们如何部署和应用这些东西，这需要链条中每个人都承担其应有的责任。”
“我们必须确保我们的船朝着对公民最有利的方向航行，”Bengio说。
如果没有Marcus和Bengio的辩论，这个夜晚将黯然失色。Marcus认为深度学习还没有达到人类大脑中那种动态重构的程度。但是Bengio坚持认为这就是深度学习，这就是“门”，我们自1989年取得的成果 —— 一种神经网络中创建的逻辑门。
“我将在赞同中结束这场对话，”Marcus说，“门是解决方案”（Gate are the solution）。
参考内容：
https://www.zdnet.com/article/devils-in-the-details-in-bengio-marcus-ai-debate/
https://medium.com/@GaryMarcus/the-current-state-of-ai-and-deep-learning-a-reply-to-yoshua-bengio-77952ead7970
请关注专知公众号（点击上方蓝色专知关注）
后台回复“YMAI” 就可以获取本场辩论双方slides的下载链接索引~
专 · 知
展开全文
微信扫码咨询专知VIP会员