普渡大学2020硬核课程《鲁棒机器学习理论》课件与笔记，38讲173页pdf

课程内容：

• 数学基础：矩阵、向量、Lp范数、范数的几何、对称性、正确定性、特征分解。无约束最优化，graident下降法，凸函数，拉格朗日乘子，线性最小二乘法。概率空间，随机变量，联合分布，多维高斯。

• 线性分类器：线性判别分析，分离超平面，多类分类，贝叶斯决策规则，贝叶斯决策规则几何，线性回归，逻辑回归，感知机算法，支持向量机，非线性变换。

• 鲁棒性：对抗性攻击、定向攻击和非定向攻击、最小距离攻击、最大允许攻击、基于规则的攻击。通过纳微扰。支持向量机的鲁棒性。

• 学习理论：偏差和方差，训练和测试，泛化，PAC框架，Hoeffding不等式，VC维。

参考书籍：

• Pattern Classification, by Duda, Hart and Stork, Wiley-Interscience; 2 edition, 2000.
• Learning from Data, by Abu-Mostafa, Magdon-Ismail and Lin, AMLBook, 2012.
• Elements of Statistical Learning, by Hastie, Tibshirani and Friedman, Springer, 2 edition, 2009.
• Pattern Recognition and Machine Learning, by Bishop, Springer, 2006.

讲者： Stanley Chan 教授 https://engineering.purdue.edu/ChanGroup/stanleychan.html

课程目标： 您将能够应用基本的线性代数、概率和优化工具来解决机器学习问题

•你将了解一般监督学习方法的原理，并能评论它们的优缺点。 •你会知道处理数据不确定性的方法。 •您将能够使用学习理论的概念运行基本的诊断。 •您将获得机器学习算法编程的实际经验。