普林斯顿大学经典书《在线凸优化导论》，178页pdf

摘要：

本文将优化描述为一个过程。在许多实际应用中，环境是如此复杂，以致于无法制定一个全面的理论模型，并使用经典算法理论和数学优化。采取一种稳健的方法是必要的，也是有益的，方法是应用一种不断学习的优化方法，在观察到问题的更多方面时从经验中学习。这种将优化视为一个过程的观点在各个领域都很突出，并在建模和系统方面取得了一些惊人的成功，现在它们已经成为我们日常生活的一部分。

作者介绍：

Elad Hazan是普林斯顿大学计算机科学教授。他于2015年从Technion毕业，当时他是该校运筹学副教授。他的研究重点是机器学习和优化的基本问题的算法设计和分析。他的贡献包括合作开发用于训练学习机器的AdaGrad算法，以及第一个用于凸优化的次线性时间算法。他曾(两次)获得2012年IBM Goldberg最佳论文奖，以表彰他对机器学习的次线性时间算法的贡献。2008年，他还获得了欧洲研究理事会(European Research Council)的一笔拨款、玛丽•居里(Marie Curie)奖学金和谷歌研究奖(两次)。他是计算学习协会的指导委员会成员，并担任COLT 2015的项目主席。

https://www.cs.princeton.edu/~ehazan/