【2022最新书稿】274页pdf，《第一性原理学习理论》Learning Theory from First Principles，法国Francis Bach研究员

https://www.di.ens.fr/~fbach/

这本教科书草稿是作者在2020 年秋季学期教过的一堂课的讲义中摘录的，并在 2021 年春季课程中使用。

本书的目标是展示学习理论中被广泛使用的学习架构的最新研究成果，主要面向以理论为导向的学生，以及希望对机器学习算法和相关领域中的基础数学有更好理解的学生，他们是对计算机视觉或自然语言处理等学习方法感兴趣的主要群体。

在书中，作者以简化的语言阐述了第一性原理的诸多证明结果，并通过简单且相关的示例展示了学习理论的重要概念。即使在没有证明的情况下，书中也呈现了一般结果。考虑到第一性原理的概念是主观的，读者在学习之前需要对线性代数、概率论和微积分等基础知识有一定的了解。

学习理论部分是本书的核心章节。考虑到算法的实践性，书中描述的所有算法框架都是经常使用的。此外，大多数学习方法都提供了简单的说明性实验，并附上了部分代码（Matlab、Julia和Python），以便学生在综合实验中看到算法是简单且有效的。

请注意，这不是机器学习的介绍性教科书。

本书在章节设定上是任意的，也是基于个人兴趣的，因此，如强化学习、无监督学习等许多重要的算法框架可能并未出现。以下是作者目前正在扩充的一些附加章节：

• 集成学习（Ensemble learning）

• Bandit优化（Bandit optimization ）

• 概率方法（ Probabilistic methods ）

• 结构化预测（Structured prediction）

本书的组织。本书分为三个主要部分:绪论、核心部分和专题。鼓励读者阅读前两部分，以获得对主要概念的全面理解。