本书将侧重于统计学习和序列预测(在线学习)的理论方面。在本笔记的第一部分,我们将使用经典的工具:集中不等式、随机平均、覆盖数字和组合参数来分析学习的i.i.d.数据。然后,我们将重点放在序列预测上,并开发许多用于在此场景中学习的相同工具。后一部分是基于最近的研究,并提出了进一步研究的方向。我们在整个课程中强调的极大极小方法,提供了一种比较学习问题的系统方法。除了理论分析,我们将讨论学习算法,特别是学习和优化之间的重要联系。我们的框架将处理开发接近最优和计算效率的算法。我们将用矩阵补全、链路预测等问题来说明这一点。如果时间允许,我们将深入了解信息理论和博弈论,并展示我们的新工具如何无缝地产生许多有趣的结果。