普林斯顿大学19年春季学期《机器学习优化》课程讲义

【导读】普林斯顿大学在19年春季学期,开设了COS 598D《机器学习优化》课程,课程主要介绍机器学习中出现的优化问题,以及解决这些问题的有效算法。前不久,课程教授Elad Hazan将其精心准备的课程讲义开放了出来,讲义内容详实循序渐进,非常适合想要入门机器学习的同学阅读。


【课程教授】

Elad Hazan 是普林斯顿大学计算机系的教授,重点研究机器学习和优化的基本问题。他的代表作品包括:AdaGrad优化算法, 世界上第一个用于凸优化的次线性时间算法等。他曾获得贝尔实验室奖、2012年和2008年IBM哥德堡最佳论文奖、欧洲研究理事会奖、居里夫人奖和谷歌研究奖。他曾担任计算学习协会指导委员会委员,并担任COLT 2015项目主席。2017年,他与人共同创立了专注于高效优化与控制的In8 inc.,并于2018年被谷歌收购。他是普林斯顿大学商学院的联合创始人和联合董事


【课程简介】

COS 598D:Optimization for Machine Learning(机器学习优化)是普林斯顿大学在19年春季学期开设的课程。课程主要介绍机器学习中出现的优化问题,以及解决这些问题的有效算法。

课程内容涵盖:

  • Introduction to convex analysis

  • first-order methods, convergence analysis

  • generalization and regret minimization 

  • regularization

  • gradient descent++:  

    • acceleration

    • variance reduction

    • adaptive preconditioning 

  • 2nd order methods in linear time

  • projection-free methods and the Frank-Wolfe algorithm

  • zero-order optimization, convex bandit optimization

  • optimization for deep learning: large scale non-convex optimization


【课程网站】

https://sites.google.com/view/optimization4machinelearning/home


【课程讲义】

想要获取《机器学习优化》课程讲义,你可以:

  • 专知公众号后台回复“OPTML” 获取国内下载链接~

  • 访问上方课程网站 

附部分讲义内容:



-END-


专 · 知

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!

欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询

请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~

专知《深度学习:算法到实战》课程全部完成!550+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!

点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程

展开全文
Top
微信扫码咨询专知VIP会员