讲座题目

Recent Progress in Zeroth Order Optimization and Its Applications to Adversarial Robustness in Data Mining and Machine Learning

讲座简介

当梯度的显式表达式很难或不可能获得时,零阶(ZO)优化越来越被用来解决大数据和机器学习问题。它通过有效梯度估计近似全梯度实现无梯度优化。最近的一些重要应用包括:a)产生对深度神经网络的预测规避、黑箱对抗攻击;b)计算能力有限的在线网络管理;c)黑箱/复杂系统的参数推断;d)根据损失函数部分反馈的bandit优化她的对手所揭示的价值观。 本教程旨在全面介绍ZO优化方法在理论和应用方面的最新进展。在理论方面,我们将讨论ZO算法的收敛速度和迭代复杂性分析,并与它们的一阶对应进行比较。在应用方面,我们将重点介绍ZO优化在研究深层神经网络鲁棒性方面的一个很有吸引力的应用-从黑箱机器学习模型生成对抗性示例的实用有效的对抗性攻击。我们还将总结有关ZO优化、大数据挑战和一些开放式数据挖掘和机器学习问题的潜在研究方向。

讲座嘉宾

Pin-Yu Chen 是麻省理工学院-IBM人工智能实验室,IBM Thomas J.Watson研究中心,可信人工智能小组和PI的研究人员。最近的研究重点是对抗性机器学习和神经网络的鲁棒性,更广泛地说,使机器学习值得信赖。我的研究兴趣还包括图形学习、网络数据分析及其在数据挖掘、机器学习、信号处理和网络安全中的应用。

成为VIP会员查看完整内容
14

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【干货】Ian GoodFellow ICLR 2019演讲:对抗机器学习的进展与挑战
GAN生成式对抗网络
18+阅读 · 2019年5月15日
基于数据的分布式鲁棒优化算法及其应用【附PPT与视频资料】
人工智能前沿讲习班
25+阅读 · 2018年12月13日
已删除
将门创投
6+阅读 · 2018年12月3日
Arxiv
38+阅读 · 2020年3月10日
Arxiv
42+阅读 · 2019年12月20日
Arxiv
20+阅读 · 2019年11月24日
Feature Denoising for Improving Adversarial Robustness
Arxiv
15+阅读 · 2018年12月9日
VIP会员
相关VIP内容
微信扫码咨询专知VIP会员