【书册】简明机器学习，174页pdf

本报告包含加州大学伯克利分校机器学习入门课程的讲义笔记。内容涵盖了许多分类与回归的方法，以及若干聚类和降维的方法。其内容简明扼要，因为仅包含在一个学期的课程中能够通过板书讲解完整呈现的内容，并且话题的选择仅限于少量特别实用和流行的算法。本报告汇编了我为加州大学伯克利分校CS 189/289A课程《机器学习》的讲义笔记。该课程同时面向本科生和研究生入门级学生。我希望这份报告能为已熟悉向量微积分、线性代数、概率论和统计学的读者提供快速进入该领域的途径。建议将本报告与我的CS 189/289A网页结合使用，后者提供了每节课的详细描述，以及与课程相关的额外链接和阅读材料。需要注意的是，这份报告和网页都是“动态文档”，每次我教授这门课程时，都会进行适当的改进。“讲义笔记”这一术语在如今的教学中已逐渐演变为教授们为补充课堂教学而编写的长篇教材式内容。然而，这份报告并非如此。它直接汇编了我授课时的实际笔记，我将其命名为《简明机器学习》，因为其中几乎不包含任何无法在为期十四周、每周两次、每次80分钟的课堂时间内完整讲解的内容。（除去假期和期中考试，课程共有25节课。）括号内的文字是课堂讲解时的口述内容，其余内容均以“白板”形式呈现——在我的课堂中，这个“白板”指的是平板电脑。我使用的白板软件支持插入图形并进行标注，因此报告中包含的图形也可以在课堂上书写。然而，我对PowerPoint持保留态度，因此仅在学期中的三四个简短片段中使用了准备好的幻灯片。这些讲义对于想要快速掌握机器学习基础知识的数学功底扎实的读者来说可能非常理想。但它并不适合所有人。由于时间限制，许多细节未能涵盖。我相信，数学基础好的读者可以自行补充这些细节。然而，大部分学生，包括选修该课程的学生，可能需要额外的阅读材料或讨论课以获取更详尽的信息。我的课程网页列出了大部分课程的额外阅读材料，其中许多来自两本已免费公开的教科书：《An Introduction to Statistical Learning with Applications in R》（第二版，由Gareth James、Daniela Witten、Trevor Hastie和Robert Tibshirani编著，2021年，Springer出版社，ISBN # 978-1-0716-1417-4）和《The Elements of Statistical Learning: Data Mining, Inference, and Prediction》（第二版，由Trevor Hastie、Robert Tibshirani和Jerome Friedman编著，2008年，Springer出版社）。此外，维基百科也对许多机器学习算法提供了优秀的入门介绍。如果读者需要详尽的“讲义笔记”，可以参考斯坦福大学Andrew Ng编写的优质内容。我无意重复这些努力，而是专注于满足“最简入门”这一未被充分关注的需求。（或许还有“最佳插图创意盗用”。）本报告内容简明的另一个原因在于选题。CS 189/289A课程于2013年春季由Jitendra Malik教授引入至伯克利，其大部分选题在本报告中得以保留。Jitendra曾表示，他只教授自己或其合作者在某些应用中成功使用过的机器学习算法。他认为，“机器学习课程太重要了，不能仅仅交由机器学习专家”——即机器学习算法的用户往往比其发明者更清楚算法的实际用途。最后，我要感谢Peter Bartlett、Alyosha Efros、Isabelle Guyon和Jitendra Malik——CS 189/289A的历任教师——以及他们的课程与讲义，这些为我自己学习这一领域提供了帮助。尽管我在授课和材料安排上加入了个人特色，并进行了大量调整，但总体上我仍是在继承他们的框架上做出渐进式改进（或许也有渐进式的缺陷）。此外，我还要感谢Carlos Flores分享我的课堂截图。