【干货书】机器学习线性代数与优化，507页pdf

这本教科书在机器学习的背景下介绍线性代数和优化。书中提供了例子和练习。每个章节末尾的练习解决方案手册可供教学指导老师使用。本教材针对计算机科学、数学和数据科学领域的研究生和教授。高级本科生也可以使用本教材。本书各章节的组织方式如下:

1. 线性代数及其应用:章节集中在线性代数的基础以及它们在奇异值分解、矩阵分解、相似矩阵(核方法)和图分析方面的常见应用。大量的机器学习应用已经被用作例子，如光谱聚类、基于核的分类和异常值检测。紧密整合的线性代数方法与例子，从机器学习区分这本书从线性代数的一般卷。重点显然是机器学习线性代数最相关的方面，并教读者如何应用这些概念。

2. 优化及其应用:机器学习的大部分内容都是优化问题，其中我们试图最大化回归和分类模型的准确性。以优化为中心的机器学习的“父问题”是最小二乘回归。有趣的是，这个问题在线性代数和优化中都有出现，是连接这两个领域的关键问题之一。最小二乘回归也是支持向量机、逻辑回归和推荐系统的起点。此外，降维和矩阵分解的方法也需要优化方法的发展。在计算图中讨论了优化的一般观点，以及它在神经网络中的反向传播的应用。

机器学习初学者经常面临的一个挑战是线性代数和优化所需的广泛背景。一个问题是，现有的线性代数和优化课程并不是针对机器学习的;因此，一个人通常需要完成比机器学习所需的更多的课程材料。此外，优化和线性代数的某些类型的思想和技巧在机器学习中出现的频率比其他以应用程序为中心的设置更高。因此，发展一种更适合机器学习的特定视角的线性代数和优化的观点具有重要的价值。