【动态】CSIG-机器学习中的加速一阶优化算法系列讲座第三讲圆满结束

2022 年 7 月 11 日 中国图象图形学学会CSIG
优化算法是机器学习的重要组成部分,但是传统的优化算法并不完全适用于机器学习,因为通常来说机器学习模型的参数维度很高或涉及的样本数巨大,这使得一阶优化算法在机器学习中占据主流地位。
为了在应用中推广加速一阶优化算法,中国图象图形学学会与浙江师范大学数理医学院、浙江师范大学数学与计算机科学学院、西安科技大学数学与统计学院共同主办了“CSIG-机器学习中的加速一阶优化算法系列讲座”,由中国图象图形学学会机器视觉专委会承办,主讲专家为中国图象图形学学会机器视觉专委会主任林宙辰教授。本次系列讲座分为六讲,从2022年6月17号起,每周五晚8-9点举行。

在6月17号和24号第一次和第二次讲座取得巨大成功后。7月1号晚上8点,林宙辰教授在线上做了本次系列讲座的第三讲:有约束凸优化中的加速算法,特别针对线性等式约束优化问题中的加速算法进行了详细深入的讲解。本次讲座十分受关注,讲座直播由腾讯会议和第三方蔻享直播同时进行。
林宙辰教授首先介绍了经典的惩罚法求解线性等式约束凸优化问题的加速算法,结合Nesterov一阶加速方法讲解了加速惩罚算法的实现。

林宙辰教授进一步详细讲解了惩罚法一阶加速算法的收敛速度证明,并对证明中的关键性步骤进行了推导和演示。

接下来,林宙辰教授进一步针对求解线性等式约束的凸优化问题的交替方向法(ADMM)讲解了相应的一阶加速算法,着重介绍了ADMM加速算法的设计思路以及算法收敛性证明中的关键步骤和引理。
最后,林宙辰教授又讲解了加速ADMM算法从经典ADMM的 阶收敛加速到 阶收敛的原因,从理论高度对加速ADMM算法进行了剖析,并且针对提问直观讲解了遍历意义下非单调算法,如ADMM,收敛加快的原因,观点独特,颇具启发性。

演讲结束后,参加线上讲座的同学和老师踊跃提问,林宙辰教授耐心回答了的每个问题。整个讲座生动有趣,内容丰富,原定一个小时的讲座时间延长到近一个半小时。

图为林宙辰教授专著《机器学习中的加速一阶优化算法》的英文版和中文版,以及刚出版的新书《Alternating Direction Method of Multipliers for Machine Learning》
本系列讲座线上直播信息为:
    • 腾讯会议:
      https://meeting.tencent.com/dm/0hyM7yHN76Bv
      会议ID:721-6788-2449
    • 蔻享同步直播:
      https://www.koushare.com/lives/room/095757
下一次讲座时间为7月8日晚20:00-21:00,敬请期待!
来源:CSIG机器视觉专委会





中国图象图形学学会2022年度系列奖励推荐工作启动
中国图象图形学学会科普活动、素材征集通知
中国图象图形学学会高校志愿者招募
中国图象图形学学会关于组织开展科技成果鉴定的通知

2022年CSIG图像图形中国行承办方征集中

登录查看更多
0

相关内容

【干货书】机器学习线性代数与优化,507页pdf
专知会员服务
183+阅读 · 2022年7月28日
2022新年荐书!最值得一读的8部机器学习教程(PDF下载)
专知会员服务
112+阅读 · 2022年1月11日
【经典书】线性代数入门课,第三版,646页pdf
专知会员服务
61+阅读 · 2021年12月10日
【动态】CSIG-机器学习中的加速一阶优化算法系列讲座第四讲圆满结束
CSIG-机器学习中的加速一阶优化算法系列讲座第三讲圆满结束
CSIG机器视觉专委会
0+阅读 · 2022年7月5日
【动态】CSIG-机器学习中的加速一阶优化算法系列讲座第一讲圆满结束
【动态】CSIG-机器学习中的加速一阶优化算法系列讲座第二讲圆满结束
CSIG-机器学习中的加速一阶优化算法系列讲座第二讲圆满结束
CSIG机器视觉专委会
0+阅读 · 2022年6月26日
CSIG-机器学习中的加速一阶优化算法系列讲座第一讲圆满结束
CSIG机器视觉专委会
1+阅读 · 2022年6月18日
中国图象图形学学会机器学习及机器视觉暑期班圆满结束
CSIG机器视觉专委会
0+阅读 · 2018年8月1日
基于信息理论的机器学习
专知
21+阅读 · 2017年11月23日
国家自然科学基金
5+阅读 · 2017年6月30日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
9+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年4月30日
国家自然科学基金
7+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
VIP会员
相关资讯
【动态】CSIG-机器学习中的加速一阶优化算法系列讲座第四讲圆满结束
CSIG-机器学习中的加速一阶优化算法系列讲座第三讲圆满结束
CSIG机器视觉专委会
0+阅读 · 2022年7月5日
【动态】CSIG-机器学习中的加速一阶优化算法系列讲座第一讲圆满结束
【动态】CSIG-机器学习中的加速一阶优化算法系列讲座第二讲圆满结束
CSIG-机器学习中的加速一阶优化算法系列讲座第二讲圆满结束
CSIG机器视觉专委会
0+阅读 · 2022年6月26日
CSIG-机器学习中的加速一阶优化算法系列讲座第一讲圆满结束
CSIG机器视觉专委会
1+阅读 · 2022年6月18日
中国图象图形学学会机器学习及机器视觉暑期班圆满结束
CSIG机器视觉专委会
0+阅读 · 2018年8月1日
基于信息理论的机器学习
专知
21+阅读 · 2017年11月23日
相关基金
国家自然科学基金
5+阅读 · 2017年6月30日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
9+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年4月30日
国家自然科学基金
7+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员