普林斯顿大学19年春季学期《机器学习优化》课程讲义

【导读】普林斯顿大学在19年春季学期,开设了COS 598D《机器学习优化》课程，课程主要介绍机器学习中出现的优化问题，以及解决这些问题的有效算法。前不久，课程教授Elad Hazan将其精心准备的课程讲义开放了出来，讲义内容详实循序渐进，非常适合想要入门机器学习的同学阅读。

【课程教授】

Elad Hazan 是普林斯顿大学计算机系的教授，重点研究机器学习和优化的基本问题。他的代表作品包括：AdaGrad优化算法， 世界上第一个用于凸优化的次线性时间算法等。他曾获得贝尔实验室奖、2012年和2008年IBM哥德堡最佳论文奖、欧洲研究理事会奖、居里夫人奖和谷歌研究奖。他曾担任计算学习协会指导委员会委员，并担任COLT 2015项目主席。2017年，他与人共同创立了专注于高效优化与控制的In8 inc.，并于2018年被谷歌收购。他是普林斯顿大学商学院的联合创始人和联合董事。

【课程简介】

COS 598D：Optimization for Machine Learning（机器学习优化）是普林斯顿大学在19年春季学期开设的课程。课程主要介绍机器学习中出现的优化问题，以及解决这些问题的有效算法。

课程内容涵盖：

• Introduction to convex analysis

• first-order methods, convergence analysis

• generalization and regret minimization 

• regularization

• gradient descent++:  

• acceleration

• variance reduction

• adaptive preconditioning 

• 2nd order methods in linear time

• projection-free methods and the Frank-Wolfe algorithm

• zero-order optimization, convex bandit optimization

• optimization for deep learning: large scale non-convex optimization

【课程网站】

https://sites.google.com/view/optimization4machinelearning/home

【课程讲义】

想要获取《机器学习优化》课程讲义，你可以：

• 关注专知公众号，后台回复“OPTML” 获取国内下载链接~

• 访问上方课程网站 

附部分讲义内容：

-END-

专 · 知

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎登录www.zhuanzhi.ai，注册登录专知，获取更多AI知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程视频资料和与专家交流咨询！

请加专知小助手微信（扫一扫如下二维码添加），加入专知人工智能主题群，咨询技术商务合作~

专知《深度学习:算法到实战》课程全部完成！550+位同学在学习，现在报名，限时优惠！网易云课堂人工智能畅销榜首位！

点击“阅读原文”，了解报名专知《深度学习:算法到实战》课程