机器学习中用到哪些矩阵知识？如果要恶补，求推荐合适的书籍资料？

点击上方“计算机视觉life”，选择“星标”

快速获得最新干货

本文来自知乎上的同名问题，原文链接：

https://www.zhihu.com/question/25866010

对几个优秀的回答进行了整理，解释权归答主所有，如有侵权请联系删除。

匿名：

首先我觉得你应该好好过一遍MIT的Linear Algebra的课。这个课有两个版本，我是跟这个更适合自学的版本。因为这个版本所有章节都模块化了，跟起来不会让人觉得压力很大。Linear AlgebraMIT的Linear Algebra的课。这个课有两个版本，我是跟这个更适合自学的版本。因为这个版本所有章节都模块化了，跟起来不会让人觉得压力很大。Linear Algebra

我所说的过一遍，不是你看个录像就完事儿了的，首先，把pdf资料都打印出来，然后你得记笔记，接着你得跟着助教做习题课的练习，最后你得把课后作业都做完，并且把考试也做完（都有答案的你自己可以check）。这个版本的题目量不是很大，但是都是精挑细选的题目，做完会让你有一种豁然开朗的感觉。不管你本科是不是理工科,线代基础有多好，我都建议仔细过一遍，一定能发现很多新东西。如果基础够好，用不着看课本，直接看讲义就行了，因为已经讲得很细很好了。

然后就是前面说的Matrix Cookbook，
https://www.ics.uci.edu/~welling/teaching/KernelsICS273B/MatrixCookBook.pdf
这本书其实就是一本速查手册，里面向量矩阵微分的东西还是很全的。这些东西一般也很难背下来，用到了查就是了。

如果你要从写code的层面去学线性代数，方法一，就是看这本书：
Coding the Matrix: Linear Algebra through Applications to Computer Science
Linear Algebra through Applications to Computer Science: Philip N. Klein: 9780615880990: Amazon.com: Books
布朗大学之前在coursera开过公开课，好像已经下架了，不过网上能找到视频。

如果你要从写code的层面去学线性代数，但是你想上一门课，方法二，就是去跟EDX这门课：
Linear Algebra - Foundations to Frontiers

如果你要是对矩阵的数值计算计算感兴趣那就去看约翰霍普金斯大学的
Matrix Computations Gene H. Golub, Charles F. Van Loan: 9781421407944: Amazon.com: Books，
不过现在Matlab和Numpy的线性代数的库已经很厉害了，所以自己手动去实现矩阵计算的机会我个人认为应该不会特别多。

其他的话，ML的书中和论文中出现什么上网搜就行了。

最后墙裂建议先把MIT的认真上一遍，真的是上过的最好的一门线性代数打底的课程。

国内要是有看不到的可能因为视频是youtube的，看网易公开课对应章节的课程视频和习题课视频就行了：

课程视频：
麻省理工公开课：线性代数全35集网易公开课

习题课视频：
麻省理工学院公开课：MIT线性代数习题课全36集网易公开课

布朗大学的那个Coding the Matrix的视频，在这里：
Coding the Matrix, Fall 2014
整本书的资料，在这里：
Coding The Matrix

（注：公众号不支持外链，以上链接可以点击文末阅读原文查看）

Ni Yun ：

机器学习用到的矩阵知识主要有：矩阵求逆，最小二乘，解特征值，奇异值分解，共轭梯度法等。

通常情况下，机器学习研究都使用已有的库，但这样很难对机器学习的算法复杂度有概念。我十分推荐选看《矩阵计算》这本书其中几章，以后在跑机器学习的同时也能知道复杂度是多少了。

匿名：

数值线性代数 (豆瓣)矩阵计算 (豆瓣)  SVD QR分解 最小二乘法
高等代数/线性代数 、（多元）微积分、概率论与数理统计 机器学习问题的数学表示
凸优化 (豆瓣)实用最优化方法 (豆瓣) 模型训练  SGD mini-batch SGD （深度学习就这了） 拉格朗日乘子法（sparse model 压缩感知等用的比较多） newton 共轭梯度 BFGS（神经网络 高阶优化方法）最小二乘法

全大葱：

我说两本书加一个dessertion吧。书是Matrix  Analysis  and  Applied  Linear  Algebra 内容循序渐进，看的时候不会觉得太困难，覆盖内容也比较广，但还是有一点点的知识没深谈，主要这本书看完对矩阵空间变换啊，特征值啊，马可夫链啊还是有比较深入的了解了。

另一本书叫The  Matrix Cookbook 这样的书有点像一本矩阵字典，有什么矩阵的专有名词啊，疑问啊可以去翻。很薄，以推导过程居多，PDF才43页。但最好是有一定矩阵基础，碰到遗忘的知识或者不太了解的点再去翻。

交流群

欢迎加入公众号读者群一起和同行交流，目前有SLAM、算法竞赛、图像检测分割、人脸人体、医学影像、自动驾驶、综合等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~

推荐阅读

现在投身于计算机视觉是否明智？

自动化专业如何转SLAM或机器学习岗？

在计算机视觉方向如何快速提升自己?

如何看待 2020 届校招算法岗「爆炸」的情况？

如何激怒一个自动驾驶（无人驾驶、智能汽车）爱好者？

最新AI资源，我在看~