吴恩达导师Michael I. Jordan：反向传播算法应被保留（附笔记）

周日晚，Michael I. Jordan教授为清华2017级新生进行了一次面对面的答疑，详细回答了现场听众从机器学习发展瓶颈，到学术发展建议等十多个问题。座谈会主办方是清华大学软件学院，现场出席嘉宾有：软件学院院长王建民，交叉信息研究院助理院长徐葳。软件学院龙明盛老师担任主持。大数据文摘有幸到场聆听了本次座谈会，并独家对话了Jordan教授关于机器学习在业内的发展情况。数据派（ID：DatapiTHU）联合大数据文摘收集到了现场珍贵的干货笔记，在此分享给大家：

现场同学对人工智能非常好奇，Jordan教授为此做了耐心解读。

关于“人工智能有情商吗”？他的解读是，机器人不需要产生感情，因为有感情的人类已经够多了，它们要去做一些人类做不了的事情，例如海量数据分析。当然我们可以让机器理解一些预设的规则，用技术手段去协助视力或听觉受损的人实现便捷的交互。

而当被问及“人工智能是怎么学习的”？Jordan教授回答说，电脑不像人类一样用抽象概念学习不同领域的知识，电脑运用的是数学手段。电脑可以学习并运用不同领域的知识，但是领域间不能差异太大。智能翻译和推荐系统就是很好的例子，都是通过类比相似数据得出结果。

也有同学对于Geoffrey Hinton近日提出的对反向传播的质疑颇感兴趣。

反向传播算法（Back Propagation）是一种适用于含有隐含层的神经网络进行权重调整的梯度推算算法，但是事实上这种算法并非人脑工作机制。近日，发明反向传播算法的Hinton提出这种“不自然”的算法可能是让机器学习不能达到真正智能的原因，并且应该尝试抛弃BP另起炉灶，这种想法也得到了李飞飞等人的支持。

对于这种重新开始的趋势，Jordan教授有另一种的看法：我们对人脑的了解有限，因此无法得到一种模仿人脑神经元的算法；反观“不自然”的BP算法，神经网络在使用BP算法之后的确有了非常好的发展，更何况经过多年尝试，得到神经网络训练中需要的隐含层梯度的方法中，BP是独一无二的。这种高效的人脑无法实现的功能在Jordan看来是一个优势，应该被保留。

当被问及机器学习在工业界的应用时，Jordan教授介绍说其实很多行业都有惊人数量的机器学习应用，比如亚马逊的反欺诈系统和供应链管理。

“常规的信用卡欺诈率是3%，也就是所有交易量的3%存在被盗风险。当亚马逊开始做电商的时候，每天有1千万美元的交易量。如果其中3%是欺诈的话， 那欺诈的量就非常大了。于是亚马逊将交易分类标注为“欺诈”或“非欺诈”。从而在过去20年将系统欺诈率控制在0.01%以内。在此基础上，亚马逊开始快速发展。”

“我在美国要买一台冰箱，一周内能送到。这就要求冰箱不能在我下单的时候才从印度装船，对吧？需要考虑要怎么样才能保证5个月前冰箱会被造出来然后装船，并被送到正确的地址和正确的人手里。这事儿没有看起来那么简单。假如印度洋上遇上了台风，船只不能运作了，怎么办？人类无法做这些规划，但统计机器学习可以，你可以用算法以及所有的数据，看所有信息包括船只建造材料等等，来做出预测。就这样，上亿人都可以买到他们想要的货物。阿里巴巴也在做这件事情。”

“滴滴和优步，这些公司都是基于机器学习的：预测正确的车辆怎样在正确的时间到达正确的地点，以及其相应的价格。”

他表示，除了电子商务以及互联网、金融行业，机器学习未来在各个行业都会应用，比如娱乐业甚至农业，因为许多公司积累了大量的数据。

最后，Jordan教授面向全体大一新生，谈到了如果想未来从事机器学习，应该掌握哪些领域的知识。

他说，人类一直在创造新的知识领域，所以保持一直在学习的状态非常重要。

”我一直在读书，读各种各样我不了解的领域的书。而且就算在数据科学和机器学习领域，我要学的还有很多很多。”

“计算机科学、统计学和最优化方法。为了应对现实世界的不确定性，你们还需要了解一点经济学、运筹学。我也建议你们学习人文学科：艺术、文化、历史、社会科学……大学只有四年，之后你们可能还会读硕士博士，但是那之后呢？”

Jordan教授建议学生们利用好自己的老师，主动寻求老师的建议。他鼓励同学们不要全部选“别人都在选”的课，不要和十年前的学生一样，而是要有自己的风格。

他鼓励同学们说，“如果你们只选计算机系的课的话，我不会要你们来读我的博士的。尽管去学物理或者法语吧，这代表你对知识的好奇。做你们自己，开创你们自己的道路。”

据了解，这是Jordan教授第一次以杰出访问教授的身份到清华开设课程，之后两年的秋季学期，Jordan教授都会回到清华进行授课，并挂靠软件学院开展各项具体工作，指导大数据系统软件国家工程实验室各个研究组的工作。想要聆听大神课程的同学，现在报考清华还不晚，小编只能帮你到这里了。

了解Jordan教授清华授课动向及内容，欢迎订阅数据派THU（ID：DatapiTHU）~

Michael I. Jordan教授现执教于加州大学伯克利分校，任电气工程与计算机科学系和统计系杰出教授，实时智能决策计算平台实验室（RISELab）共同主任、统计人工智能实验室（SAIL）主任、统计系系主任。Jordan教授长期引领着机器学习、统计学的理论、方法与系统研究，是贝叶斯网络、概率图模型、层次随机过程等多个重要方向的主要奠基者之一，也是统计学与机器学习交叉融合的主要推动者之一。Jordan教授是美国科学院、美国工程院、美国艺术与科学院三院院士，是机器学习领域唯一一位获此成就的科学家。吴恩达等都是他的学生。

Michael I. Jordan教授课堂风格

9月12日至14日，Michael I. Jordan在清华进行了为期三天的小范围讲座，面对面分享了他在伯克利AMP Lab和RISE Lab的最新研究成果。讲座内容由机器学习方法和系统组成，主要涉及概率图模型、统计推断和模型评判，以及大规模机器学习的分布式优化算法和计算框架，为清华学生分享了大量干货，在此，数据派整理了一份完整讲座笔记分享给大家（老爷子的板书公式都没放过，超全！）

后台回复关键词“MJ”，下载Michael最新讲座笔记完整版。

先放出部分笔记你们感受一下（满满的公式...）：

这里还有一份Michael之前来清华题为“计算思维、推断思维与数据科学（On Computational Thinking, Inferential Thinking and Data Science）”的主题报告视频，欢迎观看视频回顾~

报告视频建议在wifi环境下观看~