【NeurIPS 2022】扩散模型的深度平衡方法

基于扩散的生成模型在生成高质量的图像方面非常有效，生成的样本在某些指标下常常超过其他模型生成的样本。然而，这些模型的一个显著特征是，它们通常需要很长的采样链来生成高保真图像。这不仅带来了采样时间的挑战，也带来了通过这些链反向传播的固有困难，以完成诸如模型反演等任务，即近似地找到生成已知图像的潜在状态。在本文中，我们从一个不同的角度来看待扩散模型，即一个(深度)平衡(DEQ)不动点模型。具体来说，我们扩展了最近的去噪扩散隐式模型(DDIM;Song et al. 2020)，并将整个采样链建模为一个联合的多元不动点系统。这种设置提供了扩散模型和平衡模型的优雅统一，并显示出1)单幅图像采样的好处，因为它用并行采样过程取代了典型的全串行采样过程;2)模型反演，我们可以利用DEQ设置中的快速梯度，更快地找到生成给定图像的噪声。该方法也是正交的，因此与用于减少采样时间或改进模型反演的其他方法互补。我们在多个数据集上演示了我们的方法的强大性能，包括CIFAR10、CelebA和LSUN Bedrooms和Churches。