新智元推荐
作者:费欣欣
【新智元导读】15+1门免费机器学习课程,由Hinton、吴恩达、LeCun等领域内的大师讲授,有理论、有实践,还有面向机器学习工程师的课程,配套资料丰富,向想学习并且进一步提高机器学习水平的你,诚心推荐。
2017年,人工智能和机器学习/深度学习继续火热,再加上高薪的关系,有越来越多的人开始涉足这个领域。
在这里,我们推荐15门机器学习课程,这些课程都是由领域内领先的研究人员所教授。大多数课程都是免费的,而且可以根据自己的进度来安排学习。课程的内容包括决策树,朴素贝叶斯,逻辑回归,神经网络和深度学习,概率推理,贝叶斯学习,支持向量机和核方法,聚类,无监督学习,强化学习和学习理论。
Geoffrey E. Hinton,2014年
这门课估计无需多言,Hinton被誉为深度学习教父,他讲的神经网络,即使是进击的高手,也不能放过,多多听课准没错。
值得一提,Hinton在今年终于揭幕了他的“胶囊网络”,要取代CNN,也应当关注。
上这门课你需要熟悉:微积分,代数,概率,统计
课程描述:这门课使用“反向教室”模式授课。这意味着,这门课不是在大讲堂里由教师单方面介绍材料,而是把视频当做课前在家里预习的资料,你先看,看完后方便你在课堂上进行更多的讨论。每个演讲都由一套3个左右的短视频组成,你注册后,可以在Coursera网站上查看。第一个演讲视频详细介绍了如何学习这门课程和资料的使用方法。每堂课都含有一个对讲座视频的课堂讨论,因此你必须在相应的讲座之前观看那段视频,否则会跟不上讨论内容,浪费你的时间。
课程链接:http://www.cs.toronto.edu/~tijmen/csc321/
Geoffrey E. Hinton,2017年
这门课是Hinton 2014年课程的新版,注册时间正好明天2017年12月25日开始。
与2014年的课程相比——除了名字不同,新的课程要求也不同,面向中高级学习人士,但上课需要熟悉的先决条件只有微积分。
课程描述:了解人工神经网络及其如何用于机器学习,应用于语音和物体识别,图像分割,语言建模和人体运动等任务。这门课程将同时强调基本的算法和在实践中让这些算法发挥效用的技巧。本课程包含2013年开始在Coursera上提供的相同内容。但是,这门课不是原始课程的延续或更新,适应了新的平台。请注意,该课程适合中级学习者——熟练掌握微积分,并拥有编程经验(Python)。
新智元提醒:对比学习,效果更佳。
Coursera链接:https://www.coursera.org/learn/neural-networks
Ruslan Salakhutdinov,CMU,苹果AI研究总监
这门课是Rus在多伦多大学2015年教授的。
这门课涵盖了机器学习统计方面的一些理论和方法。根据课程主页,议题包括:1.回归的线性方法 2.分类的线性模型 3.概率生成和判别模型 4.正则化方法 5.神经网络 6.支持向量机 7.混合模型和EM算法 8.强化学习
使用的教科书
Chris Bishop. Pattern Recognition and Machine Learning. Springer, 2006.
Kevin P. Murphy. Machine Learning: A Probabilistic Perspective.
Trevor Hastie, Robert Tibshirani, Jerome Friedman. The Elements of Statistical Learning. 2009.
David MacKay. Information Theory, Inference, and Learning Algorithms. 2003.
讲座都有PDF:
http://www.cs.toronto.edu/~rsalakhu/CSC411/lectures.html
Yann LeCun,Facebook人工智能实验室主任,2010年
Yann LeCun的课程,非常多的数学,非常多的编程。上这门课前,你需要了解线性代数,向量演算,基本的统计和概率论。不仅如此,LeCun还特别指出,“良好的编程能力是必须的:大多数作业都包括实现在课堂上学习的算法。”
访问课程主页,扑面而来的2010年气息……我是说网页设计。
虽然这是一门面向研究生的课程,但数学好、 “highly motivated” 的大三、大四本科生也能上这门课。过去也有大一大二学生成功修完的案例。所以,你不试一试怎么知道自己不行呢?
下面详细介绍一下这门课:
本课程涵盖机器学习,模式识别,统计建模和神经计算等各种主题。课程涵盖了数学方法和理论方面,但主要侧重于算法和实际问题。机器学习和模式识别方法是“智能计算”许多最新进展的核心。当前的应用包括机器感知(视觉、听觉、语音识别),控制(过程控制、机器人技术),数据挖掘,时间序列预测(如财务),自然语言处理,文本挖掘和文本分类,生物信息学,建模,生物过程的计算模型等诸多领域。
这门课对所有想要使用或开发统计建模方法的学生都是有用的,包括CS(AI、Vision、Graphics),数学(系统建模),神经科学(计算神经科学、脑成像),金融(金融建模与预测),心理学(视觉),语言学,生物学(计算生物学、基因组学、生物信息学)和医学(生物统计学、流行病学)。
学习这门课唯一必须的条件是熟悉计算机程序设计和线性代数,但课程在很大程度上依赖概率和统计学,多变量微积分和函数优化等数学工具。课程中间会在必要时引入基本的数学概念。虽然这是一门研究生水平的课程,但是具有良好的数学背景的高水平本科生可以参加这个课程。
课程主题:
1.归纳推理,学习和泛化的基础知识。
2.线性分类器:感知机,LMS,逻辑回归。
3.具有线性参数化的非线性分类器:基函数方法,boosting,支持向量机。
4.多层神经网络,反向传播
5.异构学习系统
6.基于图的序列模型:隐马尔可夫模型,有限状态转换器,递归网络。
7.无监督学习:密度估计,聚类和降维方法。 8.图模型和因子图介绍
9.近似推理,抽样。
10.学习中的优化方法:基于梯度的方法,二阶方法,期望最大化。
11.目标函数:最大似然,最大后验,判别准则,最大余量。
12.偏差-方差困境,正则化,模型选择。
13.视觉、语音,语言、预测和生物建模中的应用。
到课程结束时,学生不仅能够理解和使用主要的机器学习方法,还能够实施,应用和分析它们。
课程时间和材料看这里:https://cs.nyu.edu/~yann/2010f-G22-2565-001/schedule.html
Yaser S. Abu-Mostafa,加州理工,2012年
这门课使用的教科书是Yaser S. Abu-Mostafa,Malik Magdon-Ismail,Hsien-Tien Lin的《从数据中学习》(Learning From Data),2012年出版。
上课需要熟悉概率,矩阵,微积分。
这是一门机器学习(ML)入门课程,涵盖了基本的理论,算法和应用。本课程将理论与实践相结合,涵盖数学以及启发式算法。课程有一条类似故事讲述的主线:什么是学习?机器可以学习吗?可以的话,怎么做到?如何做好?我们从中能学到什么?
edX明星课程,不过这学期已经结束,可以等到下次开学再注册。
edX《从数据中学习》课程主页:
https://www.edx.org/course/learning-data-introductory-machine-caltechx-cs1156x-0
Kilian Weinberger,康奈尔大学,2017年
非常友好的课程,有专为移动端阅读优化的讲座笔记!
这门课的目标是介绍机器学习,教会你基本的技能,从而便于你决定使用哪种学习算法来解决问题,你将学会编写自己的学习算法,并对其进行评估和调试。
上这门课你需要熟悉矩阵代数,概率论/统计学,多元微积分。想要更进一步准备考试的,推荐学习吴恩达Coursera机器学习在线课程的前3周。
课程主题:
1.概述(什么是机器学习)
2.k-最近邻
3.感知机
4.从数据估计概率
5.朴素贝叶斯
6.逻辑回归
7.梯度下降
8.线性回归
9.线性SVM
10.经验风险最小化
11.偏差/方差权衡
12.ML调试,过/欠拟合
13~14.Kernel Machines
15.高斯过程/贝叶斯全局优化
16.快速最近邻搜索
17.决策/回归树
18.Bagging
19.Boosting
20.深度学习
康奈尔大学机器学习:
https://courses.cis.cornell.edu/cs4780/2017sp/
吴恩达,2017年
刚才的那门课提到了吴恩达的机器学习,那么我们当然紧接着要介绍这门课。吴恩达的机器学习课程估计是很多人,尤其是中国学生进入机器学习的引路人。提醒一句,这门课的最新一期从2017年12月25日开始注册。
这门课以前新智元也介绍过,吴恩达本人对这门课也很有感情,他曾表示自己保留斯坦福教职,很大程度上是因为想教这门课。这门课也是技巧和实践并重,“你不仅可以学习到学习的理论基础,还可以获得所需的实用知识,快速有效地将这些技术应用于新的问题”。不仅如此,课程中还将介绍了硅谷在机器学习和人工智能方面创新的一些最佳实践。本课程还将从大量的案例研究和应用中吸取教训,以便学习如何将学习算法应用于构建智能机器人(感知,控制),文本理解(网络搜索,反垃圾邮件),计算机视觉,医学信息学,音频,数据库挖掘等领域。
主题包括:
1、监督学习:参数/非参数算法,支持向量机,Kernels,神经网络
2、无监督学习:聚类,降维,推荐系统,深度学习
3、机器学习的最佳实践:偏差/方差理论;机器学习和人工智能的创新过程
课程地址:https://www.coursera.org/learn/machine-learning
Neil Lawrence,亚马逊机器学习负责人,2015年
这里特别推荐亚马逊机器学习的负责人(Director)2015年在谢菲尔德大学教授的课程——Machine Learning and Adaptive Intelligence。
上这门课你需要熟悉线性代数,概率,微积分。课程旨在提供对现代人工智能基础技术的理解,特别是对概率和统计建模的基本理解。课程有视频,访问大学网站可以查看。
谢菲尔德大学机器学习课程:
http://inverseprobability.com/mlai2015/
Roger Grosse,多伦多大学,2017年
本课程概述了神经网络算法的基本思想和最新进展。课程的前2/3集中在监督学习上,后1/3关注无监督学习。讲座资料非常丰富,包括笔记、Slides、推荐阅读,以及作业(IPython Notebook),还有相关的课程推荐。总之,一门非常系统而且细致的课程,推荐。
多伦多大学神经网络和机器学习介绍:
http://www.cs.toronto.edu/~rgrosse/courses/csc321_2017/
David MacKay,剑桥大学
这个系列讲座涵盖了《信息理论,推理和学习算法》(剑桥大学出版社,2003年)这本书的核心内容,可以在网上免费下载电子版,也可以购买实体书。高清视频和所有其他课程材料可以从剑桥课程网站下载。
剑桥大学David MacKay信息论、模式识别和神经网络课程资料:http://videolectures.net/course_information_theory_pattern_recognition/
Tom Mitchell & Maria-Florina Balcan,CMU,2015年
本课程从多个角度涵盖了机器学习的理论和实用算法,包括贝叶斯网络,决策树学习,支持向量机,统计学习方法,无监督学习和强化学习等主题。本课程涵盖理论概念,如归纳偏见,PAC学习框架,贝叶斯学习方法,基于边际的学习和奥卡姆剃刀。
本课程旨在为研究生阶段学生提供机器学习研究人员目前需要的方法、技术、数学和算法的全面基础。课程含有一些简单的编程任务,包括各种学习算法的动手实验。
http://www.cs.cmu.edu/~ninamf/courses/601sp15/
佐治亚理工,2017年
课程由Michael Littman,Charles Isbell和Pushkar Kolhe教授。
这门课程就是佐治亚理工的CS7641,是一门研究生水平的课程,包括监督学习、无监督学习和强化学习。课程内容包括了很多实际项目,包括电影或书籍推荐、手机识别语音。可以在Udacity找到:https://www.udacity.com/course/machine-learning--ud262
Sargur Srihari,布法罗大学,2017年
本课程涵盖了机器学习的必要理论,原理和算法。这些方法基于统计学和概率。
这门课提供作业的代码。
使用的教科书:
Chris Bishop. Pattern Recognition and Machine Learning. Springer, 2006.
Daphne Koller and Nir Friedman, Probabilistic Graphical Models: Principles and Techniques
《深度学习》:Goodfellow, Bengio and Courville (MIT Press 2016)
http://www.cedar.buffalo.edu/~srihari/CSE574/
Udacity 纳米学位
课程由Arpan Chakraborty,David Joyner,Luis Serrano,Sebastian Thrun,Vincent Vanhoucke和Katie Malone教授。Udacity。
Udacity创始人Sebastian Thrun也在其中。
这门课程将教你如何成为机器学习工程师,并将预测模型应用于金融,医疗保健,教育等领域的海量数据集。与Kaggle紧密结合。
教学大纲:1. P0:泰坦尼克号生存探索:在这个可选项目中,您将根据每个乘客的特征(如性别和年龄)创建决定功能,试图预测1912年泰坦尼克号的灾难。从一个简单的算法开始,逐渐增加其复杂性,直到能够准确预测所提供数据中至少80%的乘客的结果。
2. P1:预测波士顿房价:波士顿房地产市场竞争激烈,你想成为该地区最好的房地产经纪人。为了与同龄人竞争,你决定利用一些基本的机器学习概念来帮助你和客户找到最适合家庭的价格。你手头有波士顿房屋数据集,其中包含大波士顿社区房屋各种特征的汇总数据,每个区域的房屋中值。你的任务是建立一个基于可用工具的统计分析的最佳模型。然后用这个模型估计你客户的最佳销售价格。
3. P2:为慈善事业寻找捐助者。ML:CharityML是位于硅谷中心的一个虚构的慈善组织,旨在为渴望学习机器学习的人们提供财务支持。在向社区中的人们发送了近32000封信之后,CharityML确定每一笔捐款都来自每年收入超过5万美元的人。为扩大潜在的捐助者群体,CharityML决定给加利福尼亚州居民发信,但只向那些最有可能捐赠给慈善机构的人发信。你需要建立一种算法,最好地识别潜在捐助者,并降低发送邮件的间接费用。
课程链接:https://www.udacity.com/course/machine-learning-engineer-nanodegree--nd009
Andrew Moore,CMU计算机科学学院院长
实际上这不是一门课,而是统计数据挖掘方面的教程整理,包括概率的基础,统计数据分析的基础,以及大多数经典的机器学习和数据挖掘算法。
全部都是PPT格式,可以随意下载修改并使用:
http://www.cs.cmu.edu/~awm/tutorials.html
Geoff Gordon,CMU
对了,如果你需要回顾机器学习的背景知识,我们推荐CMU教授Geoff Gordon的系列视频,机器学习的数学背景。
10-606 and 10-607 Math Background for ML, Fall 2017
Geoff Gordon主讲《机器学习的数学背景》:
https://www.youtube.com/playlist?list=PL7y-1rk2cCsAqRtWoZ95z-GMcecVG5mzA
***
最后,为了便于收藏/查找,下面是上述课程的列表
1、Introduction to Neural Networks and Machine Learning
Geoffrey E. Hinton. University of Toronto. 2014
2、Neural Networks for Machine Learning
Geoffrey Hinton.University of Toronto via Coursera.2017
3、Machine Learning
Ruslan Salakhutdinov. Carnegie Mellon University, Director of AI Research at Apple. This course was taught at University of Toronto. 2015
4、Machine Learning and Pattern Recognition
Yann LeCun. New York University, Director of AI Research at Facebook 2010
5、Learning from Data
Yaser S. Abu-Mostafa. California Institute of Technology. 2012
6、Machine Learning
Kilian Weinberger. Cornell. 2017
7、Machine Learning
Andrew Ng. Stanford University via Coursera. Founder of Coursera. 2017
8、Machine Learning and Adaptive Intelligence
Neil Lawrence. University of Sheffield, Director of Machine Learning at Amazon. 2015
9、Intro to Neural Networks and Machine Learning
Roger Grosse. University of Toronto. 2017
10、Information Theory, Pattern Recognition, and Neural Networks
David MacKay. University of Cambridge via Videolectures.
11、Machine Learning
Tom Mitchell and Maria-Florina Balcan. Carnegie Mellon University. 2015
12、Machine Learning
Michael Littman, Charles Isbell, and Pushkar Kolhe. Georgia Institute of Technology via Udacity. 2017
13、Introduction to Machine Learning
Sargur Srihari. University at Buffalo. 2017
14、Machine Learning - Nano Degree
Arpan Chakraborty, David Joyner, Luis Serrano, Sebastian Thrun, Vincent Vanhoucke, and Katie Malone. Udacity. 2017
15、Tutorial: Machine Learning
Andrew Moore. Dean of School of Computer Science at Carnegie Mellon University.