115页Slides带你领略深度生成模型全貌(附PPT)

2018 年 7 月 31 日 数据派THU

来源:专知

本文多图建议阅读8分钟。

本文为大家带来了斯坦福大学PH.D Aditya Grover同学的深度生成模型tutorial。


[ 导读 ]当地时间 7 月 13 - 19 日,备受关注的 AI 顶级国际会议 IJCAI 在瑞典斯德哥尔摩举行。在这次会议上,人工智能和机器学习领域的研究者为我们呈现了这一领域的研究前沿,其中包括:约束学习Constraint Learning、生成对抗网络(GAN)、博弈论、AI伦理等等,呈现出很强的多样性;与此同时,一些资深研究者也带来了一些极具看点和启发价值的演讲和教程,本文为大家带来了斯坦福大学PH.D Aditya Grover同学的深度生成模型tutorial,希望对大家的学习有所帮助。


摘要


生成模型是图模型与概率编程语言中概率推理的核心范例,最近由于神经网络在参数化方面的改进、以及基于梯度随机优化方面的进展,使得可以对高维数据进行跨模态建模。


本教程的前半部分,将全面介绍深度生成模型,包括生成对抗网络、变分自编码器以及自回归模型。对于每一个模型,我们都将深入探讨各自的概率公式、学习算法、以及与其他模型的关系。后半部分将演示一组具有代表性的推理任务,展示深度生成网络在其中的应用。最后,我们将讨论堂前领域面临的挑战,并展望未来的研究方向。


目录


第一部分:


  • 生成模型的动机,以及与判别模型的对比

  • 生成模型的定义、特征、估计密度、模拟数据、学习表示

  • 传统生成模型方法,以及深度网络在参数化方面的作用

  • 基于学习算法的生成模型分类,基于相似点的学习和无相似点的学习

  • Likelihood-based学习实例

  • 自回归模型

  • 变分自编码器


第二部分:


  • Likelihood-based学习实例(续)

  • 规范化流模型

  • Likelihood-free 学习实例

  • 生成对抗网络

  • 深度生成模型的实例

  • 半监督学习

  • 模仿学习

  • 对抗样本

  • 压缩感知

  • 关于生成模型未来研究的主要挑战和展望


后台回复“0731” 就可以获取115页深度生成模型 PPT 下载链接


附PPT:



-END-


原文链接:

https://ermongroup.github.io/generative-models/



登录查看更多
12

相关内容

深度生成模型基本都是以某种方式寻找并表达(多变量)数据的概率分布。有基于无向图模型(马尔可夫模型)的联合概率分布模型,另外就是基于有向图模型(贝叶斯模型)的条件概率分布。前者的模型是构建隐含层(latent)和显示层(visible)的联合概率,然后去采样。基于有向图的则是寻找latent和visible之间的条件概率分布,也就是给定一个随机采样的隐含层,模型可以生成数据。 生成模型的训练是一个非监督过程,输入只需要无标签的数据。除了可以生成数据,还可以用于半监督的学习。
最新《生成式对抗网络》简介,25页ppt
专知会员服务
173+阅读 · 2020年6月28日
最新《高级深度学习》课程, 慕尼黑工业大学
专知会员服务
77+阅读 · 2020年6月20日
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
212+阅读 · 2020年4月26日
WSDM 2020教程《深度贝叶斯数据挖掘》,附257页PPT下载
专知会员服务
156+阅读 · 2020年2月7日
【EMNLP2019教程】端到端学习对话人工智能,附237页PPT下载
专知会员服务
69+阅读 · 2019年11月25日
自然语言处理(NLP)前沿进展报告(PPT下载)
Arxiv
13+阅读 · 2019年1月26日
A Probe into Understanding GAN and VAE models
Arxiv
9+阅读 · 2018年12月13日
Adversarial Transfer Learning
Arxiv
12+阅读 · 2018年12月6日
Parsimonious Bayesian deep networks
Arxiv
5+阅读 · 2018年10月17日
Arxiv
22+阅读 · 2018年8月30日
VIP会员
相关VIP内容
相关论文
Top
微信扫码咨询专知VIP会员