吴恩达导师Michael I. Jordan最新清华公开课笔记(附下载)

2017 年 9 月 19 日 数据派THU


周日晚,Michael I. Jordan教授为清华2017级新生进行了一次面对面的答疑,详细回答了现场听众从机器学习发展瓶颈,到学术发展建议等十多个问题。座谈会主办方是清华大学软件学院,现场出席嘉宾有:软件学院院长王建民,交叉信息研究院助理院长徐葳。软件学院龙明盛老师担任主持。大数据文摘有幸到场聆听了本次座谈会,并独家对话了Jordan教授关于机器学习在业内的发展情况。数据派(ID:DatapiTHU)联合大数据文摘收集到了现场珍贵的干货笔记,在此分享给大家:



现场同学对人工智能非常好奇,Jordan教授为此做了耐心解读。


关于“人工智能有情商吗”?他的解读是,机器人不需要产生感情,因为有感情的人类已经够多了,它们要去做一些人类做不了的事情,例如海量数据分析。当然我们可以让机器理解一些预设的规则,用技术手段去协助视力或听觉受损的人实现便捷的交互。


而当被问及“人工智能是怎么学习的”?Jordan教授回答说,电脑不像人类一样用抽象概念学习不同领域的知识,电脑运用的是数学手段。电脑可以学习并运用不同领域的知识,但是领域间不能差异太大。智能翻译和推荐系统就是很好的例子,都是通过类比相似数据得出结果。


也有同学对于Geoffrey Hinton近日提出的对反向传播的质疑颇感兴趣。


反向传播算法(Back Propagation)是一种适用于含有隐含层的神经网络进行权重调整的梯度推算算法,但是事实上这种算法并非人脑工作机制。近日,发明反向传播算法的Hinton提出这种“不自然”的算法可能是让机器学习不能达到真正智能的原因,并且应该尝试抛弃BP另起炉灶,这种想法也得到了李飞飞等人的支持。


对于这种重新开始的趋势,Jordan教授有另一种的看法:我们对人脑的了解有限因此无法得到一种模仿人脑神经元的算法;反观“不自然”的BP算法,神经网络在使用BP算法之后的确有了非常好的发展,更何况经过多年尝试,得到神经网络训练中需要的隐含层梯度的方法中,BP是独一无二的。这种高效的人脑无法实现的功能在Jordan看来是一个优势,应该被保留。


当被问及机器学习在工业界的应用时,Jordan教授介绍说其实很多行业都有惊人数量的机器学习应用,比如亚马逊的反欺诈系统和供应链管理。


“常规的信用卡欺诈率是3%,也就是所有交易量的3%存在被盗风险。当亚马逊开始做电商的时候,每天有1千万美元的交易量。如果其中3%是欺诈的话, 那欺诈的量就非常大了。于是亚马逊将交易分类标注为“欺诈”或“非欺诈”。从而在过去20年将系统欺诈率控制在0.01%以内。在此基础上,亚马逊开始快速发展。”


“我在美国要买一台冰箱,一周内能送到。这就要求冰箱不能在我下单的时候才从印度装船,对吧?需要考虑要怎么样才能保证5个月前冰箱会被造出来然后装船,并被送到正确的地址和正确的人手里。这事儿没有看起来那么简单。假如印度洋上遇上了台风,船只不能运作了,怎么办?人类无法做这些规划,但统计机器学习可以,你可以用算法以及所有的数据,看所有信息包括船只建造材料等等,来做出预测。就这样,上亿人都可以买到他们想要的货物。阿里巴巴也在做这件事情。


“滴滴和优步,这些公司都是基于机器学习的:预测正确的车辆怎样在正确的时间到达正确的地点,以及其相应的价格。


他表示,除了电子商务以及互联网、金融行业,机器学习未来在各个行业都会应用,比如娱乐业甚至农业,因为许多公司积累了大量的数据。


最后,Jordan教授面向全体大一新生,谈到了如果想未来从事机器学习,应该掌握哪些领域的知识。


他说,人类一直在创造新的知识领域,所以保持一直在学习的状态非常重要。


”我一直在读书,读各种各样我不了解的领域的书。而且就算在数据科学和机器学习领域,我要学的还有很多很多。”


“计算机科学、统计学和最优化方法。为了应对现实世界的不确定性,你们还需要了解一点经济学、运筹学。我也建议你们学习人文学科:艺术、文化、历史、社会科学……大学只有四年,之后你们可能还会读硕士博士,但是那之后呢?”


Jordan教授建议学生们利用好自己的老师,主动寻求老师的建议。他鼓励同学们不要全部选“别人都在选”的课,不要和十年前的学生一样,而是要有自己的风格。


他鼓励同学们说,“如果你们只选计算机系的课的话,我不会要你们来读我的博士的。尽管去学物理或者法语吧,这代表你对知识的好奇。做你们自己,开创你们自己的道路。


据了解,这是Jordan教授第一次以杰出访问教授的身份到清华开设课程,之后两年的秋季学期,Jordan教授都会回到清华进行授课,并挂靠软件学院开展各项具体工作,指导大数据系统软件国家工程实验室各个研究组的工作。想要聆听大神课程的同学,现在报考清华还不晚,小编只能帮你到这里了。


了解Jordan教授清华授课动向及内容,欢迎订阅数据派THU(ID:DatapiTHU)~


Michael I. Jordan教授现执教于加州大学伯克利分校,任电气工程与计算机科学系和统计系杰出教授,实时智能决策计算平台实验室(RISELab)共同主任、统计人工智能实验室(SAIL)主任、统计系系主任。Jordan教授长期引领着机器学习、统计学的理论、方法与系统研究,是贝叶斯网络、概率图模型、层次随机过程等多个重要方向的主要奠基者之一,也是统计学与机器学习交叉融合的主要推动者之一。Jordan教授是美国科学院、美国工程院、美国艺术与科学院三院院士,是机器学习领域唯一一位获此成就的科学家。吴恩达等都是他的学生。



Michael I. Jordan教授课堂风格


9月12日至14日,Michael I. Jordan在清华进行了为期三天的小范围讲座,面对面分享了他在伯克利AMP Lab和RISE Lab的最新研究成果。讲座内容由机器学习方法和系统组成,主要涉及概率图模型、统计推断和模型评判,以及大规模机器学习的分布式优化算法和计算框架,为清华学生分享了大量干货,在此,数据派整理了一份完整讲座笔记分享给大家(老爷子的板书公式都没放过,超全!)


后台回复关键词“MJ”,下载Michael最新讲座笔记完整版。


先放出部分笔记你们感受一下(满满的公式...):


这里还有一份Michael之前来清华题为“计算思维、推断思维与数据科学(On Computational Thinking, Inferential Thinking and Data Science)”的主题报告视频,欢迎观看视频回顾~


报告视频建议在wifi环境下观看~


登录查看更多
1

相关内容

Michael I. Jordan ,美国加州大学伯克利分校电子工程与计算机科学系、统计学特聘教授。他在亚利桑那州立大学获得数学硕士学位,并于1985年在加州大学圣地亚哥分校获得认知科学博士学位。他从1988年到1998年是麻省理工学院的教授。他的研究兴趣横跨计算、统计、认知和生物科学。他是2018年国际数学家大会的全体讲师。他在2020年获得了IEEE John von Neumann奖章,在2016年获得了IJCAI研究优秀奖,在2015年获得了David E. Rumelhart奖,在2009年获得了ACM/AAAI Allen Newell奖。他是AAAI、ACM、ASA、CSS、IEEE、IMS、ISBA和SIAM的成员。个人主页:https://people.eecs.berkeley.edu/~jordan/
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
129+阅读 · 2020年7月10日
最新!Yann Lecun 纽约大学Spring2020深度学习课程,附PPT下载
【课程】伯克利2019全栈深度学习课程(附下载)
专知会员服务
56+阅读 · 2019年10月29日
【课程】浙大陈华钧教授《知识图谱导论》课程系列PPT
专知会员服务
170+阅读 · 2019年10月29日
这份深度学习课程笔记获吴恩达点赞
全球人工智能
4+阅读 · 2018年3月13日
学完吴恩达全部深度学习课程,这有一份课程解读
THU数据派
14+阅读 · 2017年10月27日
独家 | Michael I. Jordan最新清华授课笔记!
THU数据派
4+阅读 · 2017年9月17日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Arxiv
3+阅读 · 2018年2月22日
Arxiv
3+阅读 · 2018年2月20日
VIP会员
Top
微信扫码咨询专知VIP会员