▍Deeplearning.ai:最新深度学习课程
当六月份,吴恩达宣布Deeplearning.ai时,还不清楚其下一步的动向。辞任百度首席科学家后,吴恩达一直在继续他深受欢迎的,Coursera机器学习续集课程。他一直专注于深度学习的普及。
Coursera上新的深度学习课程包含五个系列。这些课程是Ng和斯坦福大学毕业生Kian Katanforoosh和Younes Mourr合力创作的,除了深度学习以外,还将教授神经网络、卷积网络、循环神经网络、长短时记忆网络、Adam、Dropout 等。
注册的同学也可以参加深度学习应用项目(每月49刀),以解决医疗保健、音乐生成和语言理解中的现实问题。一些讲座将包括一线深度学习开发工程师的采访,五个课程中有三个今天正式发布。
吴恩达在接受采访时表示:“对深度学习的需求大大超过了供应,主要的资源集中在几个实验室,,领先的大学以及ARXIV上。
吴恩达的初始机器学习课,在2011年成为了Coursera的标志课程。从那时起,有超过一百五十万学生在线学习。他的目标仍然是帮助学生创造最简单的方法,为学生在AI及其应用领域的发展作出贡献,以应对全球挑战。
有兴趣参加新课程的同学,可以查看Coursera网站(http://suo.im/333gUB)。唯一的先决条件是,具备基本的编程知识,熟练掌握Python以及了解机器学习。
吴恩达选择不详细说明三个项目的细节,但他肯定的说一定是更具体的AI产品。
戳我▼
吴恩达新成果:机器学习模型能比医生更精确诊断心律失常(paper)
▍课程表
专项课程介绍
深度学习是技术中最受追捧的技能之一。如果你想掌握AI,这个专业系列课程将帮助你入门。
在五个课程中,你将学习深度学习的基础,了解如何构建神经网络,并学习如何领导成功的机器学习项目。你将了解卷积网络,RNN,LSTM,Adam,Dropout,BatchNorm,Xavier / He初始化等。
你将学习医疗保健、自动驾驶、手语阅读,音乐生成和自然语言处理的案例研究工作。你不仅能掌握理论,而且还会看到它在工业中的应用。你将在Python和TensorFlow中练习所有这些想法。
你还将学习到许多深度学习领域的大咖,分享他们的个人故事并给你职业建议。
AI正在影响多个行业。完成这一专业系列课程之后,你可能会找到创造性的方式,并能够将其应用到工作中。
我们将帮助您掌握深度学习,了解如何应用,并在AI中建立职业生涯。
出品:
【第一课】
神经网络与深度学习
即将开课的班次:8月15日至9月18日。
课程学习时间:4周的学习,每周3-6小时
字幕:英语
【课程概述】
如果你想突破AI的前沿,这个课程将帮助你完成。深刻的学习工程师受到高度的追捧,掌握深度的学习将为你带来无数新的职业机会。深度学习也是一个新的“超级大国”,将让你建立几年前不可能实现的人工智能系统。
在本课程中,你将学习深度学习的基础。完成这个课程后,你可以: 了解驱动深度学习的主要技术趋势 - 能够构建、训练和应用完全连接的深度神经网络 - 了解如何实现高效(矢量化)神经网络 - 了解关键参数神经网络的架构。
本课程还教你如何将深度学习应用于实际工作,而不是只提供粗略的或表面级的描述。所以在完成之后,你将能够用深度学习技术,开发自己的应用程序。
【第1周】
深度学习介绍
能够解释推动深度学习兴起的主要趋势,了解当前如何应用。
视频· 欢迎
视频· 什么是神经网络?
视频· 监督学习与神经网络
视频· 为什么深度学习会流行?
视频· 关于本课程
视频· 课程资源
测验· 深度学习介绍
视频· Geoffrey Hinton采访
【第2周】
神经网络基础
学习用神经网络思维设置机器学习问题。学习使用矢量化来加快你的模型。
视频· 二进制分类
视频· 逻辑回归
视频· 逻辑回归成本函数
视频· 梯度下降
视频· Derivatives
视频· 更多衍生示例
视频·Computation graph
视频· 具有Computation graph的衍生示例
视频· 逻辑回归的梯度下降
视频· 梯度下降在m中的示例
视频· 矢量化
视频· 更多矢量化示例
视频· 逻辑回归向量化
视频· 逻辑回归的矢量化梯度输出
视频· Broadcasting in Python
视频· 关于python / numpy向量的注释
视频· Jupyter / iPython快速浏览
视频· 逻辑回归成本函数的解释(可选)
测验· 神经网络基础
阅读材料· 编程任务常见问题
其它· Python基础与numpy(可选)
编程作业练习作业· Python基础与numpy(可选)
其它· 逻辑回归与神经网络心态
编程作业· 逻辑回归与神经网络思维
视频· Pieter Abbeel采访
【第3周】
浅层神经网络
学习用一个隐藏层构建一个神经网络,使用正向传播和反向传播。
视频· 神经网络概述
视频· 神经网络表示
视频· 计算神经网络的输出
视频· 跨多个例子进行向量化
视频· 向量化实现的解释
视频· 激活函数
视频· 为什么需要非线性激活函数?
视频· 激活函数的衍生示例
视频· 神经网络的梯度下降
视频· 反向传播直觉(可选)
视频· 随机初始化
测验· 浅层神经网络
其它· 具有隐藏层的平行数据分类
编程作业· 具有隐藏层的平行数据分类
视频· Ian Goodfellow采访
【第4周】
深度神经网络
了解深度学习的关键计算,使用它们来构建和训练深度神经网络,并将其应用于计算机视觉。
视频· 深L层神经网络
视频· 向前和向后传播
视频· 深度网络中的前向传播
视频·使矩阵维度正确
视频· 什么是深度表示?
视频· 深度神经网络的构建
视频· 参数vs超参数
视频· 与大脑的关系
测验· 深度神经网络的关键概念
其它· 构建你的深层神经网络:一步一步
编程作业· 构建你的深层神经网络:一步一步
其它· 深度神经网络 - 应用
编程作业· 深层神经网络应用
【第二课】
优化深度神经网络:超参数调优,正则化和优化
即将开课的班次:8月15日至9月11日
课程学习时间:3周,每周3-6小时
字幕:英语
【课程概述】
本课程将教你如何使学习更好的“深度学习魔法”。深度学习的过程不是一个黑盒子,你将了解什么驱动性能,并能够更系统地获得好的结果。
你还将学习TensorFlow。三周后,你将:了解建立深度学习应用程序的行业最佳实践。能够有效地使用常用的神经网络“技巧”,包括初始化、L2和正则化退出,批量归一化、梯度校验,能够实现和应用各种优化算法,如小批量梯度下降、动量、RMSprop和Adam,并检查其收敛。
了解如何设置训练/开发/测试集和分析偏差/差异的深度学习时代的新的最佳实践 - 能够在TensorFlow中实现神经网络。
【第一周】
深度学习实战
视频· 训练/开发/测试全套课程
视频· 偏差/方差
视频· 机器学习的基础组合
视频· 正则化
视频· 怎样减少正规化过度拟合?
视频· Dropout正则化
视频· 了解Dropout
视频· 其他正则化方法
视频· 归一化输入
视频·Vanishing / Exploding gradients
视频· 深度网络的权重初始化
视频· 梯度数值近似
视频· 梯度检查
视频· 梯度检查实现说明
测验· 深度学习的实践
其它· 初始化
编程作业· 初始化
其它· 正则化
编程作业· 正则化
其它· 梯度检查
编程作业· 梯度检查
视频· Yoshua Bengio采访
【第2周】
算法优化
视频· 小批量梯度下降
视频· 了解小批量梯度下降
视频· 指数加权平均数
视频· 了解指数加权平均数
视频· 指数加权平均值的偏差校正
视频· 动量梯度下降
视频· RMSprop
视频· Adam优化算法
视频· 学习率衰减
视频· 本地最优的问题
测验· 优化算法
其它· 优化
编程作业· 优化
视频· Yuanqing Lin采访
【第3周】
超参数调优,批量规范化和编程框架
视频· 调整过程
视频· 使用适当的比例选择超参数
视频· 实践中的超参数调整:Pandas vs Caviar
视频· 归一化激活函数
视频·将批次归一化纳入神经网络
视频· 如何做批量归一化?
视频· 测试时的批量归一化
视频· Softmax回归
视频· 训练一个softmax分类器
视频· 深度学习框架
视频· TensorFlow
测验·超参数调优,批量归一化,编程框架
其它· Tensorflow
编程作业· Tensorflow
【第三课】
打造机器学习项目
即将开课的班次:8月15日至9月4日。
课程学习时间:2周的学习,3-4小时/周
字幕:英语
【课程概述】
你将学习如何建立一个成功的机器学习项目。如果你希望成为AI的技术领导者,并且知道如何为团队的工作确定方向,本课程将向让你掌握具体方法。
这些内容中的大部分内容从来没有在其他地方进行过教学,并且来自于导师建立和运营许多深度学习产品的一线经验。
本课程还有两个“训练模拟器”,可让你作为机器学习项目负责人进行决策。这提供了“行业经验”,你可能只有经过多年的ML工作经验才能获得。
2周后,你将:了解如何诊断机器学习系统中的错误,以及优先考虑减少错误的方向; 了解复杂的ML设置,例如不匹配的训练/测试集,比较超越human-level performance;了解如何应用端到端学习,迁移学习和多任务学习。
吴恩达曾经目睹团队因不了解本课程教导的原则,浪费了几个月或几年。
他希望这两周的课程可以节省你几个月的时间。这是一个独立的课程,只要你有基本的机器学习知识,你就可以这样做。
【第1周】
ML战略(1)
视频· 为什么选择ML策略
视频· 正交化
视频· 单数评估指标
视频· 满意度和度量优化
视频· 训练/开发/测试发布
视频· 开发和测试集的大小
视频· 何时更改开发/测试集和度量
视频· 如何做 human-level performance?
视频· 偏见避免
视频· 了解human-level performance
视频· 超越human-level performance
视频· 提高模型性能
阅读材料· 机器学习训练模拟器
测验· 在和平主义城市的鸟类识别(案例研究)
视频· Andrej Karpathy采访
【第2周】
ML战略(2)
视频· 进行错误分析
视频· 清理标签不正确的数据
视频· 快速构建你的第一个系统
视频· 不同版的训练和测试
视频· 偏差和方差与不匹配数据分布
视频· 解决数据不匹配
视频· 迁移学习
视频· 多任务学习
视频· 什么是端到端深度学习?
视频· 如何使用端到端的深度学习?
测验· 自动驾驶(案例研究)
视频· Ruslan Salakhutdinov采访
【第四课】
卷积神经网络
时间:待开放
字幕:英语
【课程概述】
本课程将教您如何构建卷积神经网络并将其应用于图像数据。由于深刻的学习,计算机视觉的工作远远超过两年前,这使得许多令人兴奋的应用程序,从安全的自主驾驶到准确的人脸识别,到放射学图像的自动阅读。您将: - 了解如何构建卷积神经网络,包括最近的变化,如残留网络。 - 知道如何将卷积网络应用于视觉检测和识别任务。 - 知道使用神经样式转移来产生艺术。 - 能够将这些算法应用于各种图像,视频和其他2D或3D数据。这是深入学习专业化的第四课。
【第五课】
序列模型
时间:待开放
字幕:英语
【课程概述】
本课程将教你如何构建自然语言、音频和其他序列数据的模型。由于深度学习,序列算法的工作远远好于两年前,这使得语音识别、音乐、聊天室、机器翻译、自然语言理解等领域产生了众多令人兴奋的应用程序。
你将:了解如何构建和训练循环神经网络(RNN)以及常用的变体,如GRU和LSTM。能够将序列模型应用于自然语言问题,包括文本合成。能够将序列模型应用于音频应用,包括语音识别和音乐合成。这是深度学习专业课程的第五个也是最后一个课程。
★推荐阅读★
长期招聘志愿者
加入「AI从业者社群」请备注个人信息
添加小鸡微信 liulailiuwang