神经辐射场与3D高斯泼溅技术的突破

神经辐射场(NeRF)和3D高斯泼溅技术(3D Gaussian Splatting)彻底改变了3D重建和新视角合成任务。然而,从极端新视角实现逼真渲染仍然具有挑战性,因为伪影在各种表示形式中持续存在。在本研究中,我们提出了DIFIX3D+,这是一种新颖的流程,旨在通过单步扩散模型增强3D重建和新视角合成能力。

DIFIX3D+的核心:DIFIX模型

DIFIX3D+的核心是DIFIX,一种单步图像扩散模型,专门用于增强并消除由3D表示中欠约束区域引起的渲染新视角中的伪影。DIFIX在我们的流程中扮演两个关键角色: 1. 重建阶段:DIFIX用于清理从重建中渲染的伪训练视图,然后将其蒸馏回3D表示中。这极大地增强了欠约束区域,并提高了整体3D表示的质量。 1. 推理阶段:DIFIX作为神经增强器,有效消除了由于不完美的3D监督和当前重建模型能力有限而产生的残留伪影。

通用解决方案与性能提升

DIFIX3D+是一种通用解决方案,其单一模型兼容NeRF和3DGS两种表示形式。实验表明,DIFIX3D+在保持3D一致性的同时,将FID分数平均提高了2倍,显著优于基线方法。

成为VIP会员查看完整内容
0

相关内容

【NeurIPS2023】朝向自解释的图级异常检测
专知会员服务
30+阅读 · 2023年10月26日
【AAAI2023】用于复杂场景图像合成的特征金字塔扩散模型
专知会员服务
12+阅读 · 2021年7月16日
【Amazon】使用预先训练的Transformer模型进行数据增强
专知会员服务
57+阅读 · 2020年3月6日
【AAAI2023】用于图对比学习的谱特征增强
专知
18+阅读 · 2022年12月11日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
【KDD2020】图神经网络生成式预训练
专知
22+阅读 · 2020年7月3日
【CVPR2019】弱监督图像分类建模
深度学习大讲堂
38+阅读 · 2019年7月25日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
437+阅读 · 2023年3月31日
Arxiv
74+阅读 · 2023年3月26日
Arxiv
22+阅读 · 2023年3月17日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员