【导读】当地时间 7 月 13 - 19 日,备受关注的 AI 顶级国际会议 IJCAI 在瑞典斯德哥尔摩举行。在这次会议上,人工智能和机器学习领域的研究者为我们呈现了这一领域的研究前沿,其中包括:约束学习Constraint Learning、生成对抗网络(GAN)、博弈论、AI伦理等等,呈现出很强的多样性;与此同时,一些资深研究者也带来了一些极具看点和启发价值的演讲和教程,本文为大家带来了斯坦福大学PH.D Aditya Grover同学的深度生成模型tutorial,希望对大家的学习有所帮助。
作者 | Aditya Grover, Stefano Ermon
编译 | Yongxi
摘要
生成模型是图模型与概率编程语言中概率推理的核心范例,最近由于神经网络在参数化方面的改进、以及基于梯度随机优化方面的进展,使得可以对高维数据进行跨模态建模。
本教程的前半部分,将全面介绍深度生成模型,包括生成对抗网络、变分自编码器以及自回归模型。对于每一个模型,我们都将深入探讨各自的概率公式、学习算法、以及与其他模型的关系。后半部分将演示一组具有代表性的推理任务,展示深度生成网络在其中的应用。最后,我们将讨论堂前领域面临的挑战,并展望未来的研究方向。
目录
第一部分:
生成模型的动机,以及与判别模型的对比
生成模型的定义、特征、估计密度、模拟数据、学习表示
传统生成模型方法,以及深度网络在参数化方面的作用
基于学习算法的生成模型分类,基于相似点的学习和无相似点的学习
Likelihood-based学习实例
自回归模型
变分自编码器
第二部分:
Likelihood-based学习实例(续)
规范化流模型
Likelihood-free 学习实例
生成对抗网络
深度生成模型的实例
半监督学习
模仿学习
对抗样本
压缩感知
关于生成模型未来研究的主要挑战和展望。
请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),
后台回复“TDGM” 就可以获取115页深度生成模型 PPT 下载链接~
原文链接:
https://ermongroup.github.io/generative-models/
附PPT:
-END-
专 · 知
人工智能领域26个主题知识资料全集获取与加入专知人工智能服务群: 欢迎微信扫一扫加入专知人工智能知识星球群,获取专业知识教程视频资料和与专家交流咨询!
请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料!
请加专知小助手微信(扫一扫如下二维码添加),加入专知主题群(请备注主题类型:AI、NLP、CV、 KG等)交流~
请关注专知公众号,获取人工智能的专业知识!
点击“阅读原文”,使用专知