本文介绍了一阶优化方法及其在机器学习中的应用。这不是一门关于机器学习的课程(特别是它不涉及建模和统计方面的考虑),它侧重于使用和分析可以扩展到具有大量参数的大型数据集和模型的廉价方法。这些方法都是围绕“梯度下降”的概念而变化的,因此梯度的计算起着主要的作用。本课程包括最优化问题的基本理论性质(特别是凸分析和一阶微分学)、梯度下降法、随机梯度法、自动微分、浅层和深层网络。

成为VIP会员查看完整内容
134
0

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【经典书】机器学习:贝叶斯和优化方法,1075页pdf
专知会员服务
282+阅读 · 2020年6月8日
机器学习速查手册,135页pdf
专知会员服务
266+阅读 · 2020年3月15日
专知会员服务
87+阅读 · 2019年12月24日
【课程】纽约大学 DS-GA 1003 Machine Learning
专知会员服务
39+阅读 · 2019年10月29日
421页《机器学习数学基础》最新2019版PDF下载
Machine Learning:十大机器学习算法
开源中国
12+阅读 · 2018年3月1日
干货|掌握机器学习数学基础之优化[1](重点知识)
机器学习研究会
8+阅读 · 2017年11月19日
资源 | CMU统计机器学习2017春季课程:研究生水平
机器之心
9+阅读 · 2017年10月30日
Arxiv
36+阅读 · 2019年12月20日
Optimization for deep learning: theory and algorithms
Arxiv
89+阅读 · 2019年12月19日
Arxiv
11+阅读 · 2019年11月24日
Deep Learning for Energy Markets
Arxiv
6+阅读 · 2019年4月10日
Arxiv
10+阅读 · 2019年1月16日
Meta-Transfer Learning for Few-Shot Learning
Arxiv
6+阅读 · 2018年12月6日
Arxiv
7+阅读 · 2018年5月23日
Arxiv
3+阅读 · 2017年7月25日
小贴士
相关VIP内容
相关论文
Arxiv
36+阅读 · 2019年12月20日
Optimization for deep learning: theory and algorithms
Arxiv
89+阅读 · 2019年12月19日
Arxiv
11+阅读 · 2019年11月24日
Deep Learning for Energy Markets
Arxiv
6+阅读 · 2019年4月10日
Arxiv
10+阅读 · 2019年1月16日
Meta-Transfer Learning for Few-Shot Learning
Arxiv
6+阅读 · 2018年12月6日
Arxiv
7+阅读 · 2018年5月23日
Arxiv
3+阅读 · 2017年7月25日
微信扫码咨询专知VIP会员