Yann LeCun主讲!纽约大学《深度学习》2021课程全部放出,附slides与视频

2021 年 11 月 15 日 专知
Yann LeCun在纽约大学数据科学中心(CDS)主讲的《深度学习》2021年春季课程现已全部在线可看!


该课程自2021年春季开始由Yann LeCun与Alfredo Canziani等共同执教。


CDS发布了Yann LeCun的深度学习(DS-GA 1008)课程的所有材料,包括带英文字幕教学视频、书面讲义、课件以及带有PyTorch实现的可执行Jupyter Notebooks。


课程关注深度学习和表示学习的最新技术,重点关注 有监督和无监督深度学习、嵌入方法、度量学习、卷积和循环网,以及在计算机视觉、自然语言理解和语音识别方面的应用。 前提条件包括:DS-GA 1001数据科学入门或研究生水平的机器学习课程。

地址:
https://cds.nyu.edu/deep-learning/

资源
  • YouTube视频:https://www.youtube.com/watch?v=mTtDfKgLm54

  • 官方中文版讲义:https://atcold.github.io/pytorch-Deep-Learning/zh/

  • 课件:https://github.com/Atcold/NYU-DLSP21

  • GitHub:hhttps://atcold.github.io/NYU-DLSP21/

  • Reddit论坛:https://www.reddit.com/r/NYU_DeepLearning/



授课老师:


目录内容:

Theme 1: Introduction

  • History and resources 🎥 🖥

  • Gradient descent and the backpropagation algorithm 🎥 🖥

  • Neural nets inference 🎥 📓

  • Modules and architectures 🎥

  • Neural nets training 🎥 🖥 📓📓

  • Homework 1: backprop

Theme 2: Parameters sharing

  • Recurrent and convolutional nets 🎥 🖥 📝

  • ConvNets in practice 🎥 🖥 📝

  • Natural signals properties and the convolution 🎥 🖥 📓

  • Recurrent neural networks, vanilla and gated (LSTM) 🎥 🖥 📓📓

  • Homework 2: RNN & CNN

Theme 3: Energy based models, foundations

  • Energy based models (I) 🎥 🖥

  • Inference for LV-EBMs 🎥 🖥

  • What are EBMs good for? 🎥

  • Energy based models (II) 🎥 🖥 📝

  • Training LV-EBMs 🎥 🖥

  • Homework 3: structured prediction

Theme 4: Energy based models, advanced

  • Energy based models (III) 🎥 🖥

  • Unsup learning and autoencoders 🎥 🖥

  • Energy based models (VI) 🎥 🖥

  • From LV-EBM to target prop to (any) autoencoder 🎥 🖥

  • Energy based models (V) 🎥 🖥

  • AEs with PyTorch and GANs 🎥 🖥 📓📓

Theme 5: Associative memories

  • Energy based models (V) 🎥 🖥

  • Attention & transformer 🎥 🖥 📓

Theme 6: Graphs

  • Graph transformer nets [A][B] 🎥 🖥

  • Graph convolutional nets (I) [from last year] 🎥 🖥

  • Graph convolutional nets (II) 🎥 🖥 📓

Theme 7: Control

  1. Planning and control 🎥 🖥

  2. The Truck Backer-Upper 🎥 🖥 📓

  3. Prediction and Planning Under Uncertainty 🎥 🖥

Theme 8: Optimisation

  • Optimisation (I) [from last year] 🎥 🖥

  • Optimisation (II) 🎥 🖥 📝

Miscellaneous

  • SSL for vision [A][B] 🎥 🖥

  • Low resource machine translation [A][B] 🎥 🖥

  • Lagrangian backprop, final project, and Q&A 🎥 🖥 📝


深度学习概要


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“YLDL” 就可以获取Yann LeCun主讲!纽约大学《深度学习》2021课程全部放出,附slides与视频全》专知下载链接

专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!


欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
1

相关内容

杨立昆(法语:Yann Le Cun,英语:Yann LeCun,1960年7月8日-)(原中文译名:扬·勒丘恩)是一位计算机科学家,他在机器学习、计算机视觉、移动机器人和计算神经科学等领域都有很多贡献。他最著名的工作是在光学字符识别和计算机视觉上使用卷积神经网络 (CNN),他也被称为卷积网络之父。他同Léon Bottou和Patrick Haffner等人一起创建了DjVu图像压缩技术。他同Léon Bottou一起开发了Lush语言。
专知会员服务
41+阅读 · 2020年12月18日
不可错过!华盛顿大学最新《生成式模型》课程,附PPT
专知会员服务
59+阅读 · 2020年12月11日
专知会员服务
53+阅读 · 2020年10月11日
Yann Lecun 纽约大学《深度学习(PyTorch)》课程(2020)PPT
专知会员服务
178+阅读 · 2020年3月16日
最新!Yann Lecun 纽约大学Spring2020深度学习课程,附PPT下载
纽约大学《深度学习》2021课程全部放出,LeCun主讲!
机器学习与推荐算法
2+阅读 · 2021年11月16日
Yann LeCun都推荐的深度学习资料合集!
InfoQ
14+阅读 · 2019年7月7日
推荐 | 10.24......送你9大深度学习在线课程,你没理由不看!(附链接......)
国家自然科学基金
1+阅读 · 2018年9月23日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
10+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
Arxiv
21+阅读 · 2022年2月24日
Recent advances in deep learning theory
Arxiv
50+阅读 · 2020年12月20日
Arxiv
17+阅读 · 2019年3月28日
Arxiv
25+阅读 · 2018年8月19日
Arxiv
15+阅读 · 2018年2月4日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2018年9月23日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
10+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
相关论文
Top
微信扫码咨询专知VIP会员