「数据数学:从理论到计算」EPFL硬核课程

2021 年 2 月 1 日 专知


凸优化提供了一个统一的框架,以获得数据分析问题的数值解决方案,并在充分理解的计算成本下,以可证明的统计保证正确性。


为此,本课程回顾了大数据之后在凸优化和统计分析方面的最新进展。我们提供了新兴的凸数据模型及其统计保证的概述,描述了可扩展的数值求解技术,如随机,一阶和原对偶方法。在整个课程中,我们将数学概念运用到大规模的应用中,包括机器学习、信号处理和统计。


在整个课程中,我们将数学概念运用到大规模的应用中,包括机器学习、信号处理和统计。


https://www.epfl.ch/labs/lions/teaching/ee-556-mathematics-of-data-from-theory-to-computation/


本课程包括以下主题


  • 第一讲:绪论。模型和数据的作用。最大似然公式。估计和预测的样本复杂度界限。


  • 第二讲:计算的作用。优化算法的挑战。最优测度。结构优化。梯度下降法。梯度下降的收敛速度。


  • 第三讲:收敛速度的最优性。加速梯度下降法。全部复杂性的概念。随机梯度下降法。


  • 第四讲:简洁的信号模型。压缩传感。估计和预测的样本复杂度界限。非光滑优化对优化算法的挑战。


  • 第五讲:近端算子介绍。近端梯度方法。线性最小化神谕。约束优化的条件梯度法。


  • 第六讲:时间-数据的权衡。方差减少以改进权衡。


  • 第七讲:深度学习的数学介绍。双下降曲线和过度参数化。隐式规则化。


  • 第八讲:非凸优化中的结构。最优的措施。逃避鞍点。自适应梯度方法。


  • 第九讲:对抗性机器学习和生成式对抗性网络(GANs)。Wasserstein  GAN。极大极小优化的难点。


  • 第十讲: 原对偶优化- i:极大极小问题的基础。梯度下降-上升法的陷阱。


  • 第十一讲: 原对偶优化- ii:额外梯度法。Chambolle-Pock算法。随机非方法。


  • 第十二讲:原对偶III:拉格朗日梯度法。拉格朗日条件梯度法。





专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“MDTC” 可以获取「数据数学:从理论到计算」EPFL硬核课程专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

干货书《金融数学导论: 概念与计算方法》,290页pdf
专知会员服务
63+阅读 · 2021年5月7日
专知会员服务
56+阅读 · 2021年4月12日
通过条件梯度进行结构化机器学习训练,50页ppt与视频
专知会员服务
12+阅读 · 2021年2月25日
最新《深度学习理论》笔记,68页pdf
专知会员服务
49+阅读 · 2021年2月14日
专知会员服务
43+阅读 · 2020年11月27日
【初学者指南】神经网络中的数学
专知
32+阅读 · 2019年12月16日
【资源】强化学习实践教程
专知
43+阅读 · 2019年9月11日
机器学习数学基础【附PPT下载】
专知
45+阅读 · 2018年9月17日
118页概率思维教程——基础、技巧与算法
专知
12+阅读 · 2018年9月5日
Arxiv
9+阅读 · 2020年10月29日
Arxiv
12+阅读 · 2018年1月12日
VIP会员
相关VIP内容
干货书《金融数学导论: 概念与计算方法》,290页pdf
专知会员服务
63+阅读 · 2021年5月7日
专知会员服务
56+阅读 · 2021年4月12日
通过条件梯度进行结构化机器学习训练,50页ppt与视频
专知会员服务
12+阅读 · 2021年2月25日
最新《深度学习理论》笔记,68页pdf
专知会员服务
49+阅读 · 2021年2月14日
专知会员服务
43+阅读 · 2020年11月27日
Top
微信扫码咨询专知VIP会员