神经辐射场(NeRF)和3D高斯泼溅技术(3D Gaussian Splatting)彻底改变了3D重建和新视角合成任务。然而,从极端新视角实现逼真渲染仍然具有挑战性,因为伪影在各种表示形式中持续存在。在本研究中,我们提出了DIFIX3D+,这是一种新颖的流程,旨在通过单步扩散模型增强3D重建和新视角合成能力。
DIFIX3D+的核心是DIFIX,一种单步图像扩散模型,专门用于增强并消除由3D表示中欠约束区域引起的渲染新视角中的伪影。DIFIX在我们的流程中扮演两个关键角色: 1. 重建阶段:DIFIX用于清理从重建中渲染的伪训练视图,然后将其蒸馏回3D表示中。这极大地增强了欠约束区域,并提高了整体3D表示的质量。 1. 推理阶段:DIFIX作为神经增强器,有效消除了由于不完美的3D监督和当前重建模型能力有限而产生的残留伪影。
DIFIX3D+是一种通用解决方案,其单一模型兼容NeRF和3DGS两种表示形式。实验表明,DIFIX3D+在保持3D一致性的同时,将FID分数平均提高了2倍,显著优于基线方法。