本课程由四个部分组成。
数学基础。矩阵、向量、Lp范数、范数的几何、对称性、正确定性、特征分解。无约束优化,graident下降,凸函数,拉格朗日乘数,线性最小二乘。概率空间,随机变量,联合分布,多维高斯函数。
线性分类器。线性判别分析、分离超平面、多类分类、贝叶斯决策规则、贝叶斯决策规则的几何、线性回归、逻辑回归、感知器算法、支持向量机、非线性变换。
学习理论。偏差与方差、训练与测试、泛化、PAC框架、Hoeffding不等式、VC维。
鲁棒性。对抗性攻击,有目标和无目标攻击,最小距离攻击,最大损失攻击,规则攻击。通过纳微扰。支持向量机的鲁棒性。