SIGGRAPH 2020 | 自动生成prior的曲面网格重构技术

2020 年 5 月 30 日 机器之心
机器之心报道
参与:小舟、Racoon
与使用预先设定的光滑 prior 不同,这篇 SIGGRAPH 论文使用 CNN 自动生成 prior,准确建模细粒度特征的同时过滤噪声与异常值。


近日,来自以色列特拉维夫大学的研究者提出了一种从输入点云重构曲面网格的技术——Point2Mesh。与之前方法需指定一个用于编码期望形状的 prior 不同,该研究使用输入点云来自动生成 prior,并称其为 self-prior。该 self-prior 将重复出现的几何形状由单一形状封装在深度神经网络的权重之中。

研究者对网络权重进行优化,使得初始网格变形,以收缩包覆(shrink-wrap)单个输入点云。由于共享的局部内核被用来拟合整个物体,因此考虑到了整个重构的形状。将多个卷积核在整体形状上进行全局优化,从而鼓励了局部尺度在形状曲面上的几何自相似性。

研究者展示了,与预先设置的平滑 prior(经常陷入不佳的局部最优)相比,使用 self-prior 收缩包覆点云能够收敛至令人满意的结果。传统的重构方法在非理想条件下性能会恶化,并且如非定向法线,噪音和部件缺失(低密度)等情况在现实世界的扫描里经常出现,而 Point2Mesh 在非理想条件下具有一定的鲁棒性。研究者在大量不同复杂度的各种形状上验证了 Point2Mesh 的性能表现。


  • 论文地址:https://arxiv.org/pdf/2005.11084.pdf

  • GitHub 地址:https://github.com/ranahanocka/Point2Mesh/

  • 项目页面:https://ranahanocka.github.io/point2mesh/


Point2Mesh 概述

Point2Mesh 是一种从输入点云重构曲面网格的技术。该方法从单个对象学习,通过优化卷积神经网络(CNN)的权重来使一些初始网格变形,以收缩包覆输入点云:


优化过的卷积神经网络权重充当 prior 的角色,对期望形状属性进行编码,研究者将其称为 self-prior。

该方法能够正常工作的前提是形状不是随机的,并且在多个尺度下具有的很强的自相关性。


self-prior 的核心是卷积神经网络的权重共享结构,该结构本身能够对重复出现与相互关联的结构进行建模,因此对于那些噪声和异常值这类不是重复出现的几何形状不是很敏感。


具体而言,Point2Mesh 通过优化卷积神经网络权重,不断迭代来使初始网格变形以收缩包覆给定的输入点云 X(如图 8 所示例子)来重构一张水密网格(watertight mesh)。正常的形状具有跨尺度的强自相关性,并且经常重复出现细粒度(fine-grained)的细节,然而噪声是随机且不相关的。这使得对重复出现的细粒度细节进行重构,同时消除噪声成为可能。

图 6 展示了 self-prior 可以消除甲龙背部和尾部重复出现的隆起上的不规则凸起,但保留了颈部的细粒度隆起。

图 6:输入点云从(真实)网格进行采样,并加入了噪声和缺失区域。

更进一步,注意 self-prior 在图 2 和图 7 上是如何补全缺失部分的,并与整体形状的特征保持一致。

图 2:使用平滑 prior 从有缺失区域的点云中重构完整的网格,该方法会忽略整体形状特征。

图 7:Point2Mesh 利用自相似性来更好地重建缺失的那一半拱顶。

图 4 显示了该方法的整体框架。

图 4:在 l 层上 Point2Mesh 框架概览。

实验

研究者通过一系列定性定量的实验验证了 Point2Mesh 的适用性,这些实验中涉及缺失区域、噪声、具有挑战的空洞等形状。研究者用来自 [Choi et al. 2016] 的真实扫描对象和来自 NextEngine 3D 的激光扫描仪对所提方法进行定性分析。研究者提供了额外的结果和在点云集上的量化实验,这些点云集是从真实网格曲面采样的。这些网格数据集包括:Thingi10k [Zhou and Jacobson 2016],COSEG [Wang et al. 2012],TOSCA high-resolution [Bronstein et al. 2006] 和 the Surface Reconstruction Benchmark [Berger et al. 2013]。

图 12:在估计法线上的重构结果。

图 13:来自真实扫描的重构。

表 1:形状降噪比较(F-score 越大越好)。

图 14:噪声比较的定性结果。

表 2:形状完成度结果比较(F-score 越高越好)。


机器之心联合 AWS 开设线上公开课,通过 6 次直播课程帮助大家熟悉 Amazon SageMaker 各项组件的使用方法,轻松玩转机器学习。


6 月 2 日 20:00,AWS解决方案架构师尹振宇将带来第 3 课,详解如何利用SageMaker Operator简化Kubernetes 上的机器学习任务管理。


点击阅读原文或识别二维码,立即预约直播。


登录查看更多
0

相关内容

【ICML2020-浙江大学】对抗性互信息的文本生成
专知会员服务
43+阅读 · 2020年7月4日
 【SIGGRAPH 2020】人像阴影处理,Portrait Shadow Manipulation
专知会员服务
28+阅读 · 2020年5月19日
专知会员服务
31+阅读 · 2020年4月24日
【CVPR2020】图神经网络中的几何原理连接
专知会员服务
56+阅读 · 2020年4月8日
【CVPR2020】MSG-GAN:用于稳定图像合成的多尺度梯度GAN
专知会员服务
26+阅读 · 2020年4月6日
自回归模型:PixelCNN
专知会员服务
26+阅读 · 2020年3月21日
专知会员服务
41+阅读 · 2020年2月20日
已删除
将门创投
5+阅读 · 2019年8月19日
已删除
将门创投
8+阅读 · 2019年6月13日
【泡泡点云时空】完美配准:具有平滑密度的3D点云配准
泡泡机器人SLAM
61+阅读 · 2019年5月16日
已删除
将门创投
5+阅读 · 2019年5月5日
【泡泡一分钟】点密度适应性点云配准
泡泡机器人SLAM
16+阅读 · 2018年5月28日
深度图像先验:无需学习即可生成新图像
论智
45+阅读 · 2017年12月4日
EKF常用于目标跟踪系统的扩展卡尔曼滤波器
无人机
9+阅读 · 2017年7月25日
Logically-Constrained Reinforcement Learning
Arxiv
3+阅读 · 2018年12月6日
Arxiv
7+阅读 · 2018年6月19日
Arxiv
15+阅读 · 2018年4月5日
VIP会员
相关VIP内容
相关资讯
已删除
将门创投
5+阅读 · 2019年8月19日
已删除
将门创投
8+阅读 · 2019年6月13日
【泡泡点云时空】完美配准:具有平滑密度的3D点云配准
泡泡机器人SLAM
61+阅读 · 2019年5月16日
已删除
将门创投
5+阅读 · 2019年5月5日
【泡泡一分钟】点密度适应性点云配准
泡泡机器人SLAM
16+阅读 · 2018年5月28日
深度图像先验:无需学习即可生成新图像
论智
45+阅读 · 2017年12月4日
EKF常用于目标跟踪系统的扩展卡尔曼滤波器
无人机
9+阅读 · 2017年7月25日
Top
微信扫码咨询专知VIP会员