【芝加哥博士论文】深度生成模型:设计、改进和应用，149页pdf

深度生成模型（DGM）将深度神经网络与生成模型结合，以学习感兴趣数据的底层生成机制。这已经成为从数据中提取知识的重要方法，适用于机器学习和人工智能。然而，尽管具有潜在的潜力，学习和应用DGM在不同领域中仍然存在许多挑战。因此，本论文的重点是理解、改进和应用不同的深度生成模型。

首先，我们介绍了不同DGM的基本原理，包括变分自动编码器（VAE）、基于流的模型、生成对抗网络（GAN）和基于能量的模型（EBM）。我们还提出了VAE的新对应物：变分潜在优化（VLO），它不需要编码器结构。此外，我们提供了一种新的角度来理解EBM的生成过程，建立了EBM和GAN之间的联系，并设计了一种新方法来提高EBM样本质量。

接下来，我们提出了两种混合型DGM，以改善当前模型的生成质量。首先，我们将基于流的模型和变分自动编码器结合，以提高基于自动编码器的生成模型的生成质量。其次，我们借鉴了指数倾斜的思想，将基于能量的模型与其他基于似然性的生成模型相结合，以获得更好的样本。

最后，我们进行了与现代深度生成模型相关的各种应用，包括将生成模型用作基于似然性方法的离群分布（OOD）检测，并设计了可控的人脸生成模型。我们提出了一种新的OOD检测分数，称为似然性遗憾，以帮助使用VAE检测OOD样本。此外，我们建议在当前基于关键点的人脸重演模型中添加新结构，并将其与3D可变模型相结合，以提高其生成质量和泛化能力。