我们研究如何从单个视频中重建和预测三维流体的外观和速度。当前的方法通常需要多视角视频来进行流体重建。为了解决这一问题,我们提出了 FluidNexus,一个将视频生成与物理模拟相结合的新型框架。我们的核心思想是合成多个新视角视频,以作为重建的参考。 FluidNexus 由两个关键组件组成:

  1. 新视角视频合成器,该模块结合逐帧视角合成与视频扩散精炼(video diffusion refinement),以生成逼真的视频;
  2. 物理融合的粒子表示,该模块将可微分模拟(differentiable simulation)与渲染相结合,从而同时支持三维流体的重建与预测。

为了评估我们的方法,我们收集了两个全新的真实流体数据集,其中包含纹理化背景和物体交互。FluidNexus 使得从单个流体视频中实现动态新视角合成、未来预测以及交互模拟成为可能。 项目网站:https://yuegao.me/FluidNexus。

成为VIP会员查看完整内容
11

相关内容

【CVPR2025】具有显式3D建模的世界一致性视频扩散
【CVPR2024】视觉-语言模型的高效测试时间调整
专知会员服务
20+阅读 · 2024年3月30日
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【KDD2020】图神经网络生成式预训练
专知
22+阅读 · 2020年7月3日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
447+阅读 · 2023年3月31日
Arxiv
75+阅读 · 2023年3月26日
Arxiv
163+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员