【ICLR2025】重新思考扩散后验采样：从条件得分估计器到最大化后验

扩散后验采样的最新进展已被用于解决反问题，且无需额外的训练，其中扩散后验采样（DPS）（Chung等，2022a）是最流行的方法之一。先前的分析表明，DPS通过近似条件得分实现后验采样。然而，在本文中，我们展示了DPS使用的条件得分近似并不像以前所假设的那样有效，而是与最大化后验（MAP）原理更为一致。我们通过对512×512的ImageNet图像进行DPS实验来验证这一点，结果显示：1）DPS的条件得分估计显著偏离了经过良好训练的条件扩散模型的得分，甚至低于无条件得分；2）DPS的条件得分估计的均值明显偏离零，导致其成为无效的得分估计；3）DPS生成的样本质量较高，但多样性显著较低。基于上述发现，我们提出DPS更接近于MAP，而非条件得分估计器，因此建议对DPS进行如下改进：1）通过多步梯度上升和投影明确地最大化后验；2）使用仅通过100张图像和8个GPU小时训练的轻量化条件得分估计器。大量实验结果表明，这些提出的改进显著提升了DPS的性能。相关改进的源代码可在[此链接](https://github.com/tongdaxu/Rethinking-Diffusion-Posterior-Sampling-From-Conditi onal-Score-Estimator-to-Maximizing-a-Posterior)获取。