波士顿大学Francesco《在线学习导论》2020书册，126页pdf详述在线学习最新进展

这本专著，我通过在线凸优化的现代视角介绍了在线学习的基本概念。这里，在线学习指的是在最坏情况假设下的后悔最小化框架。我提出了凸损失在线学习的一阶和二阶算法，在欧几里德和非欧几里德设置。所有的算法都清晰地呈现为在线镜像下降或跟随正则化及其变体的实例化。特别关注的是通过自适应和无参数在线学习算法来调整算法的参数和在无界域内学习的问题。非凸损失通过凸替代损失和随机化处理。本文还简要讨论了强盗设置问题，讨论了具有对抗性和随机性的多武装强盗问题。这些笔记不需要凸分析的先验知识，所有必需的数学工具都得到了严格的解释。此外，所有的证明都经过精心挑选，尽可能地简单和简短。