不可错过！2022伯克利新课-《全栈深度学习2022》课程视频及ppt免费分享

会员服务 ·

不可错过！2022伯克利新课-《全栈深度学习2022》课程视频及ppt免费分享

2022 年 8 月 19 日 专知

课程描述

我们的课程整合了来自数千名学习者的反馈，超过4年的生产机器学习教学。

我们更新了截至2022年的所有材料，并添加了一些全新的主题:

制定问题并估算项目成本

采购、清理、处理、标注、合成和增加数据
选择正确的框架和计算基础设施
故障排除训练和确保复现性
大规模部署模型
✨监控和持续改进已部署的模型✨
✨ML团队如何工作，如何管理ML项目✨
✨构建大型语言模型和其他基础模型✨

https://fullstackdeeplearning.com/

这门课程适合谁？

本课程面向已经了解深度学习基础知识并且想要了解创建生产深度学习系统的其余过程的人员。如果你具备以下条件，则可以从本课程中获得最大收益：

至少一年以上Python编程经验。

至少一门深度学习课程（在大学或在线学习）。

具有代码版本控制，Unix环境和软件工程方面的经验。

虽然我们涵盖了深度学习的基础知识（反向传播，卷积神经网络，递归神经网络，Transformer等）。

全堆栈深度学习(FSDL)是为那些正在构建由机器学习(ML)支持的产品的人开设的课程和社区。现在谈论基于ML的产品是一个令人兴奋的时刻，因为ML正在迅速成为一种主流技术——正如你在创业资金、招聘广告和大公司的持续投资中所看到的那样。

FSDL最初始于2018年，当时最令人兴奋的ML驱动产品是由最大的公司制造的。然而，该领域更广泛的说法是，很少有公司能从这项技术中获得价值。

现在到了2022年，由ML驱动的强大产品激增，叙事也发生了转变:技术栈周围出现了标准化——变压器和NLP开始渗透到更多的用例中，以及如何在世界范围内应用ML技术的实践。过去四年，该领域最大的变化之一是MLOps一词的出现。

你可能会问，为什么变化如此之快?除了该领域更加成熟和研究继续进步之外，一个重要的原因是模特训练开始变得产品化。

使用HuggingFace这样的工具，您可以在一两行代码中部署最先进的NLP或CV模型。

AutoML已经开始应用于很多应用程序。

一些公司开始提供模型作为一种服务，你甚至不需要下载开源软件包就可以使用它们。你可以打一个网络电话，从最先进的模型中得到预测。

许多框架开始围绕Keras和PyTorch Lightning进行标准化。

人工智能进展

ML的历史特点是公众对技术认知的兴衰。这是由该领域历史上发生的几个不同的人工智能冬天推动的——该技术没有达到其宣传的效果。如果你展望未来几年，ML会发生什么?

ML驱动的产品需要不同的过程

在许多方面，构建基于ML的产品需要一个与在学术环境中开发ML模型完全不同的过程。在学术界，你构建“Flat”的ML——选择一个问题，收集数据，清理和标记数据，迭代模型开发，直到你得到一个在收集的数据集上表现良好的模型，评估该模型，最后写一份报告。

但是ML支持的产品需要一个外部循环，在您将模型部署到生产环境之后，您需要度量模型在与真实用户交互时的表现。然后，使用真实世界的数据构建一个数据飞轮，并将其作为外部循环的一部分继续进行。

MLOps

MLOps是最近几年出现的一个学科。它是关于部署、维护和操作在生产中生成ML模型的ML系统的实践。很多MLOps是关于:

我们如何组合一个基础设施，使我们能够以可重复和可治理的方式构建模型?

我们如何在潜在的大规模生产环境中运行ML系统?

我们如何作为一个团队在这些系统上进行协作?

基于ML的产品是一个独特但重叠的学科。构建一个强大的ML支持的产品所需要的很多东西超出了ML系统的基础设施方面。它着重于如何将ML融入您正在构建的产品或应用程序的上下文中。在这个ML产品规程范围内的其他主题包括:您如何理解您的用户如何与您的模型交互?如何构建一个团队或组织，使其能够在ML系统上有效地协同工作?你如何在ML环境下进行产品管理?设计使用ML的产品的最佳实践是什么?本课程侧重于教授您端到端如何将使用ML的产品推向世界，并将涵盖MLOps中最关键的方面，以便做到这一点。

ML开发的梦想是，给定一个项目规范和一些样本数据，就可以得到一个持续改进的大规模部署的预测系统。现实是完全不同的:您必须收集、聚合、处理、清理、标记和版本数据。您必须找到模型架构和它们预先训练的权重，然后编写和调试模型代码。您运行训练实验并审查结果，这些结果将反馈到尝试新架构和调试更多代码的过程中。现在可以部署模型了。在部署模型之后，您必须监视模型预测并关闭数据飞轮循环。基本上，您的用户为您生成新的数据，这些数据需要添加到训练集。