消费级GPU、速度提升3000倍，微软FastNeRF首次实现200FPS高保真神经渲染

会员服务 ·

消费级GPU、速度提升3000倍，微软FastNeRF首次实现200FPS高保真神经渲染

2021 年 4 月 4 日 机器之心

选自arXiv

作者：Stephan J. Garbin等

机器之心编译

编辑：小舟、杜伟

近日，微软提出了一种基于 NeRF 的新系统 FastNeRF，用它来渲染逼真图像，速度能有多快呢？在高端消费级 GPU 上达到了惊人的 200FPS！

神经辐射场（Neural Radiance Fields, NeRF）领域的最新研究展示了神经网络编码复杂 3D 环境的方式，这类方法能以新的视角真实地渲染环境。渲染这些图像需要非常大的计算量，即使在高端硬件上，这些新进展与实现交互式速率仍然相去甚远。

在本文中，来自微软的研究者提出了一种名为 FastNeRF 的新系统，它以每秒数百帧的速度渲染对象的高分辨率真实性新视图。相比之下，NeRF 等现有方法在速度上要慢几个数量级，并且只能以交互速率渲染分辨率很低的图像。

FastNeRF 的提出受到了移动和混合现实设备上场景的启发，并且是 第一个基于 NeRF、能够在高端消费级 GPU 上以 200Hz 渲染高真实感图像的系统 （如上图右）。该方法的核心思想是图启发的分解，它允许：在空间中的每个位置紧凑地缓存一个深度辐射图；使用光线方向有效地查询该图以估计渲染图像中的像素值。

大量的实验表明，在运行速度上，FastNeRF 是原始 NeRF 算法的 3000 倍，比加速版 NeRF 至少快一个数量级，同时又保持了视觉质量和可扩展性。

在 Realistic 360 Synthetic 数据集中 Lego 场景图上，新方法与其他方法的速度评估对比结果。

论文地址：https://arxiv.org/abs/2103.10380

技术细节

架构

FastNeRF 在速度上取得了巨大的突破。这让在高端消费级硬件上以 200Hz 以上渲染高分辨率逼真图像。

该方法的核心包括将 NeRF 分解为两个神经网络：一个是生成深度辐射图的位置依赖网络；另一个是生成权重的方向依赖网络。权重的内积和深度辐射图用于预估场景中特定位置从特定方向观察所呈现的颜色。FastNeRF 架构可以被高效缓存，在保持 NeRF 的视觉质量的同时，显著提升了测试时间效率。

下图 2 展示了 NeRF 和 FastNeRF 网络架构的比较：

图 2：左：NeRF 神经网络架构。(x, y, z)代表输入样例位置，(θ, φ)代表光线方向，(r, g, b, σ)是输出颜色和透明度值。右：FastNeRF 架构将同一任务分为两个适合缓存的神经网络。位置依赖网络 F_pos 输出一张深度辐射图(u, v, w)，其中包含 D 个分量。而 F_dir 在输入光线方向时，输出分量的权重(β_1, . . . , β_D)。

实现

训练 FastNeRF 和训练 NeRF 一样。研究者分别使用 8 层和 4 层的 MLP 建模 FastNeRF 的 F_pos 和 F_view，并将位置编码用于输入。

在测试阶段，FastNeRF 和 NeRF 都将一组相机参数作为输入。这些参数用于为输出中的每个像素生成光线，然后沿着每条光线生成大量样本并进行集成。FastNeRF 能够使用其神经网络表征来执行，当进行缓存时，性能会大幅度提升。

实验结果

该研究在 NeRF 论文中使用的 Realistic 360 Synthetic 和 Local Light Field Fusion（LLFF）数据集上进行了定量和定性评估。NeRF 合成数据集由复杂对象的 360 度视图组成，而 LLFF 数据集由前向场景组成，图像较少。在所有与 NeRF 的比较中，该研究均使用与 NeRF 论文中相同的训练参数。

下面来看一下实验结果。如下图 4 所示，FastNeRF 与 NeRF 在使用 8 个分量的 800^2 像素的 [25] 数据集上的定性比较。小型缓存是指我们的方法缓存在 2563，而大型缓存是在 7683。更改缓存大小可实现计算和内存 trading，以达到类似于传统计算机图形中的细节级别（LOD）的图像质量。