【MLSS2020】大规模机器学习优化，195页ppt，法国Francis Bach研究员

机器学习暑期学校(MLSS)系列开始于2002年，致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行，从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自法国INRIA Francis Bach研究员述《大规模机器学习优化》，177页ppt系统性讲述了大规模机器学习优化算法，非常干货。

Francis Bach 先生是INRIA（法国国家信息与自动化研究所）的研究员，自2011年起领导SIERRA项目团队（该团队是Ecole Normale Supérieure计算机科学系的一部分，也是CNRS、ENS和INRIA的联合团队）。自2016年起，成为Ecole Normale Supérieure的兼职教授。在伯克利大学完成了计算机科学博士学位，与迈克尔·乔丹教授合作，在巴黎矿业大学数学形态学组工作了两年，然后从2007年到2010年加入了INRIA/Ecole Normale Superieure/CNRS的WILLOW项目组。从2009年到2014年，负责ERC项目SIERRA。对统计机器学习很感兴趣，特别是在图形模型、稀疏方法、基于核的学习、凸优化视觉和信号处理方面。

https://www.di.ens.fr/~fbach/

Optimization for Large Scale Machine Learning

机器学习是数学、计算机科学和工程相结合的一个快速发展的领域，它为计算机提供了无需明确编程就能进行学习的能力，以便做出预测或采取理性行动。从癌症研究到金融、自然语言处理、市场营销或自动驾驶汽车，如今许多领域都受到了机器学习算法近期进展的影响。机器学习算法得益于收集大量数据并从中“学习”的能力。

本报告概述了监督机器学习、面向凸优化的快速随机梯度方法、更多超越凸优化的问题。