《变分自编码器(VAE)导论》93页书册,附PDF下载

【导读】变分自编码器(VAE)是重要的生成式模型。与生成式对抗网络(GAN)类似,VAE也可以被用来生成逼真的图像和文本信息,但VAE的思想却与GAN有很大的区别。本文介绍Arxiv上的一篇93页VAE导论,该导论包含大量的公式推导和图示。


近几年来,生成式对抗网络(GAN)吸引了大量科研人员和工程师的关注。然而除了GAN,变分自编码器(VAE)也是这几年较为火热的重要的生成式模型。与GAN的利用生成器和判别器进行对抗的思路不同,VAE的核心组件是自编码器和KL散度约束。


本文介绍Arxiv上的《An Introduction to Variational Autoencoders》(《变分自编码器导论》),其大致内容如下:

  • 简介

    • 动机

    • 目的

    • 概率模型和变分推断

    • 基于神经网络的参数条件分布

    • 有向图模型和神经网络

    • 神经网络全观察模型的学习

    • 深度隐变量模型的学习和推断

    • 难解性

  • 变分自编码器

    • 编码器和近似后验

    • 证据下界(ELBO)

    • 基于随机梯度的ELBO优化

    • 重新参数化技巧

    • 分解的高斯后验

    • 边缘似然的估计

    • 边缘似然和ELBO作为KL散度

    • 挑战

    • 相关的之前的和当前的工作

  • 高斯后验之外

    • 对计算易处理性的要求

    • 推断模型灵活性的提升

    • 反自动回归变换

    • 反自动回归流(IAF)

    • 相关工作

  • 更深的生成式模型

    • 多隐变量的推断和学习

    • 提升生成模型表达能力的替代方法

    • 自回归模型

    • 基于易处理的Jacobian行列式的可逆变换

    • 后续工作

  • 总结


请关注专知公众号(点击上方蓝色专知关注

  • 后台回复“VAEITO” 就可以获取《生成式对抗网络综述》完整版论文载链接~


附部分预览:


参考链接:

  • https://arxiv.org/abs/1906.02691


-END-

专 · 知

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!

欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询

请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~

专知《深度学习:算法到实战》课程全部完成!550+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!

点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程

展开全文
Top
微信扫码咨询专知VIP会员