华盛顿大学《生成模型》2020秋季课程完结,课件、讲义全部放出

2021 年 1 月 30 日 专知

转载机器之心

作者:魔王

这门课聚焦生成建模技术的理论和数学基础,探讨多种生成模型技术。

在概率统计理论中,生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。 它能够给观测值和标注数据序列指定一个联合概率分布。 在机器学习中,生成模型可用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。

生成模型是最近较为活跃的研究领域,从事机器学习研究的人有必要了解这一研究主题。去年秋季,华盛顿大学开设了一门主题为「生成模型」的课程 CSE 599,探讨了多种生成模型相关技术。


课程地址: https://courses.cs.washington.edu/courses/cse599i/20au/

这门课与当前的生成模型研究紧密相关,并提供了阅读该领域近期进展相关论文所需的背景知识。课程聚焦生成建模技术的理论和数学基础,学生在开始本课程前最好了解机器学习领域的基础概念。

该课程于 2020 年 9 月 30 日开始,12 月 7 日结课。目前已放出课程讲义和 slide,每节课还提供额外的补充阅读材料。

CSE 599 课程表部分截图。

课程主题

这门课程涉及以下主题:

  • 自回归模型


  • NADE 框架
  • RNN/LSTM 和 Transformer

  • 变分自编码器(VAE)


  • 高斯 VAE
  • ConvNet 与 ResNet
  • 后验崩溃
  • 离散式 VAE


  • 生成对抗网络


  • f-GAN

  • Wasserstein GAN

  • Generative Sinkhorn Modeling


  • 生成流


  • 自回归流

  • 可逆网络

  • 神经常微分方程


  • 基于能量的模型


  • Stein 方法与评分匹配

  • 郎格文动力学与扩散 


具备类似主题的课程还有斯坦福大学开设的 CS236(深度生成模型)课程和加州大学伯克利分校的 CS294-158(深度无监督学习)课程。感兴趣的读者可以多了解这两门课。

讲师简介


课程主讲人 John Thickstun 本科毕业于布朗大学应用数学专业,目前在华盛顿大学计算机科学与工程系攻读博士学位。目前的研究兴趣包括生成模型、采样、时序,及其在音乐领域的应用,多篇论文发表在 EMNLP、ICML、ISMIR、ICLR 等学术会议上。

个人主页:http://homes.cs.washington.edu/~thickstn/

专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“生成模型” 可以获取华盛顿大学《生成模型》2020秋季课程完结,课件、讲义全部放出专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。
专知会员服务
48+阅读 · 2021年4月24日
不可错过!华盛顿大学最新《生成式模型》课程,附PPT
专知会员服务
63+阅读 · 2020年12月11日
不可错过!CMU《深度学习导论》2020课程,附课件与视频
专知会员服务
79+阅读 · 2020年10月27日
Yann Lecun 纽约大学《深度学习(PyTorch)》课程(2020)PPT
专知会员服务
179+阅读 · 2020年3月16日
Universal Transformers
Arxiv
5+阅读 · 2019年3月5日
FIGR: Few-shot Image Generation with Reptile
Arxiv
5+阅读 · 2019年1月8日
Arxiv
6+阅读 · 2018年11月1日
Arxiv
3+阅读 · 2018年4月18日
Arxiv
5+阅读 · 2018年1月16日
VIP会员
Top
微信扫码咨询专知VIP会员