【导读】变分自编码器(VAE)是重要的生成式模型。与生成式对抗网络(GAN)类似,VAE也可以被用来生成逼真的图像和文本信息,但VAE的思想却与GAN有很大的区别。本文介绍Arxiv上的一篇93页VAE导论,该导论包含大量的公式推导和图示。
近几年来,生成式对抗网络(GAN)吸引了大量科研人员和工程师的关注。然而除了GAN,变分自编码器(VAE)也是这几年较为火热的重要的生成式模型。与GAN的利用生成器和判别器进行对抗的思路不同,VAE的核心组件是自编码器和KL散度约束。
本文介绍Arxiv上的《An Introduction to Variational Autoencoders》(《变分自编码器导论》),其大致内容如下:
简介
动机
目的
概率模型和变分推断
基于神经网络的参数条件分布
有向图模型和神经网络
神经网络全观察模型的学习
深度隐变量模型的学习和推断
难解性
变分自编码器
编码器和近似后验
证据下界(ELBO)
基于随机梯度的ELBO优化
重新参数化技巧
分解的高斯后验
边缘似然的估计
边缘似然和ELBO作为KL散度
挑战
相关的之前的和当前的工作
高斯后验之外
对计算易处理性的要求
推断模型灵活性的提升
反自动回归变换
反自动回归流(IAF)
相关工作
更深的生成式模型
多隐变量的推断和学习
提升生成模型表达能力的替代方法
自回归模型
基于易处理的Jacobian行列式的可逆变换
后续工作
总结
请关注专知公众号(点击上方蓝色专知关注)
后台回复“VAEITO” 就可以获取《生成式对抗网络综述》完整版论文下载链接~
附部分预览:
参考链接:
https://arxiv.org/abs/1906.02691
-END-
专 · 知
专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询!
请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~
专知《深度学习:算法到实战》课程全部完成!550+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!
点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程