讲座题目
Recent Progress in Zeroth Order Optimization and Its Applications to Adversarial Robustness in Data Mining and Machine Learning
讲座简介
当梯度的显式表达式很难或不可能获得时,零阶(ZO)优化越来越被用来解决大数据和机器学习问题。它通过有效梯度估计近似全梯度实现无梯度优化。最近的一些重要应用包括:a)产生对深度神经网络的预测规避、黑箱对抗攻击;b)计算能力有限的在线网络管理;c)黑箱/复杂系统的参数推断;d)根据损失函数部分反馈的bandit优化她的对手所揭示的价值观。 本教程旨在全面介绍ZO优化方法在理论和应用方面的最新进展。在理论方面,我们将讨论ZO算法的收敛速度和迭代复杂性分析,并与它们的一阶对应进行比较。在应用方面,我们将重点介绍ZO优化在研究深层神经网络鲁棒性方面的一个很有吸引力的应用-从黑箱机器学习模型生成对抗性示例的实用有效的对抗性攻击。我们还将总结有关ZO优化、大数据挑战和一些开放式数据挖掘和机器学习问题的潜在研究方向。
讲座嘉宾
Pin-Yu Chen 是麻省理工学院-IBM人工智能实验室,IBM Thomas J.Watson研究中心,可信人工智能小组和PI的研究人员。最近的研究重点是对抗性机器学习和神经网络的鲁棒性,更广泛地说,使机器学习值得信赖。我的研究兴趣还包括图形学习、网络数据分析及其在数据挖掘、机器学习、信号处理和网络安全中的应用。