深度生成模型(DGM)将深度神经网络与生成模型结合,以学习感兴趣数据的底层生成机制。这已经成为从数据中提取知识的重要方法,适用于机器学习和人工智能。然而,尽管具有潜在的潜力,学习和应用DGM在不同领域中仍然存在许多挑战。因此,本论文的重点是理解、改进和应用不同的深度生成模型。

首先,我们介绍了不同DGM的基本原理,包括变分自动编码器(VAE)、基于流的模型、生成对抗网络(GAN)和基于能量的模型(EBM)。我们还提出了VAE的新对应物:变分潜在优化(VLO),它不需要编码器结构。此外,我们提供了一种新的角度来理解EBM的生成过程,建立了EBM和GAN之间的联系,并设计了一种新方法来提高EBM样本质量。

接下来,我们提出了两种混合型DGM,以改善当前模型的生成质量。首先,我们将基于流的模型和变分自动编码器结合,以提高基于自动编码器的生成模型的生成质量。其次,我们借鉴了指数倾斜的思想,将基于能量的模型与其他基于似然性的生成模型相结合,以获得更好的样本。

最后,我们进行了与现代深度生成模型相关的各种应用,包括将生成模型用作基于似然性方法的离群分布(OOD)检测,并设计了可控的人脸生成模型。我们提出了一种新的OOD检测分数,称为似然性遗憾,以帮助使用VAE检测OOD样本。此外,我们建议在当前基于关键点的人脸重演模型中添加新结构,并将其与3D可变模型相结合,以提高其生成质量和泛化能力。

成为VIP会员查看完整内容
46

相关内容

【MIT博士论文】多模态:模型、算法与应用,196页pdf
专知会员服务
106+阅读 · 2023年8月17日
【斯坦福博士论文】元强化学习:算法与应用,149页pdf
专知会员服务
47+阅读 · 2023年7月11日
专知会员服务
34+阅读 · 2021年7月19日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
142+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
348+阅读 · 2023年3月31日
Arxiv
59+阅读 · 2023年3月26日
Arxiv
123+阅读 · 2023年3月24日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员