AI技术让手办「整活」:3D建模居然可以这样简单

2022 年 8 月 31 日 机器之心
机器之心报道
机器之心编辑部
拍短视频、发朋友圈,整活必备?
科技领域,既有用元宇宙开发布会的公司,也有 All in 元宇宙的公司,很多虚拟世界已经建立起来,人们面临的问题正在变成:真实世界中,人类创造了亿万种物品丰富着我们的生活,那么如何才能快速复制这些物品到全新的元宇宙世界中呢? 

3D 内容对于元宇宙至关重要,很多科技公司正在推出用于构建虚拟世界的工具,随着计算机图形技术、元宇宙和 AI 之间的交集越来越多,这些技术也在不断升级。

最近,华为 HMS Core 3D 建模服务发布了人形角色自动建模和骨骼绑定的功能,引起了我们的注意。

看到一个可爱的手办,在想能不能拥有它的 3D 虚拟形象?只用手机围绕手办拍摄一圈,就能构建一个造型精准的 3D 模型并为其自动绑定骨骼。


在导入动作数据后,它不仅可以随你走动、向你招手,还可以完成跳舞等复杂动作。


在开放的 Demo App 中,我们只需要用普通手机摄像头围绕目标物体进行一通 360 度拍摄,清晰的 3D 模型即可生成。除了 Q 版的动漫手办以外,毛绒玩具或者机器人等人形角色也可以被扫描成模型并赋予骨骼。

那么它的能力到底如何呢?我们也实际操作了一把,我们用华为的技术给机器之心的毛绒玩偶构建了 3D 模型并绑定好骨骼。


只需使用视频中的同款动作数据驱动模型,就可以跳同款舞蹈啦:


如果四肢短小的玩偶都可以搞定的话,看起来绝大多数人形角色都是没问题的!

通过 AI 能力用 2D 照片生成 3D 模型,是人工智能学术会议中的一个热门领域,刚刚过去的国际顶会 CVPR 上就有数十篇这个方向的论文。通过对物体的不同角度进行拍摄,将 2D 图像转换为三角网格模型,生成的 3D 模型可供建筑师、设计师、艺术家和游戏开发者导入图形引擎,并可以在此基础上修改比例、更改材料或尝试不同的照明效果。而如今,前沿技术的一部分已经成为了手机上的应用,不禁让人感叹科技发展的速度。

3D 建模,手机也行

快速构建 3D 模型的能力来自华为终端云服务开放能力合集 HMS Core,其拥有 3D 建模、3D 引擎、AR Engine 等多个图形领域的开放服务。其中,3D 建模服务可以给我们带来很多想象空间,可以用在商品展示、教学、虚拟人物,甚至动画制作上。

华为 HMS Core 3D 建模服务,不需要用 TOF、深度摄像头或 LiDAR 激光雷达等特殊硬件,只需要一个普通手机的 RGB 摄像头即可完成建模。
 


这个过程在使用者看来是「一键生成」的,背后经历的却是一系列复杂的处理过程。


高精度的几何重建需要先进行物体分割,将目标物与背景分离,并进行图像匹配、特征提取和深度估计,AI 算法通过分析不同角度的图像来判断位置关系,生成点云构建 3D 模型,再计算出纹理材质对模型表面进行贴图。

在这个过程中,华为利用自研的高低模技术,通过计算剔除冗余的面片,可以用更低的面片数(5 万以下)达成高面片数(10 万及以上)模型的效果,在中低端手机上也能实现精细的视觉效果。

自动生成 3D 虚拟形象的「筋骨」

为了让模型动起来,我们还需要对模型进行「骨骼绑定」:


传统流程中,骨骼绑定也需要动画师手工来完成,HMS Core 的能力大幅提升了动画制作的效率:通过自动的骨骼绑定和蒙皮权重估计,HMS Core 可以让你刚刚扫描出来的 3D 模型在导入动作数据后活动起来。

值得一提的是,在这个领域,此前少数实现自动关节估计的方法都需要目标模型摆好标准姿态。华为利用 AI 算法减少了人为规则的需求,可以支持非对称的多种姿态。

面对模型的各种姿态,AI 算法需要大量数据进行训练,但在 3D 模型重建任务上,业内其实并没有这样的数据集。


对此,华为自研了一套 3D 人形角色自动生成框架,可以基于千百个模型数据,生成数十万甚至是上百万的角色模型和骨骼。通过数据增强,HMS Core 支持了非对称姿态、不同体型和类别的人形角色的自动骨骼绑定。

投射到现实世界

最后,若想将构建好的 3D 模型呈现在真实的世界中,实现真人与 3D 虚拟物体交互的效果,还需要准确高效的 AR 能力。

华为 HMS Core 的 AR Engine 通过整合算法实现了厘米级的精准定位,开发者可以通过这些能力让虚拟世界与现实世界自然地融合在一起。



例如,AR Engine 提供了光照估计和环境 Mesh 能力,使得 3D 虚拟形象的影子会随着灯光变化,并可被现实世界中的物体挡住,带来更自然的视觉交互体验。

图形领域能力全面开放,加速元宇宙时代到来

随着业界虚实融合步伐加快,华为 HMS Core 全面开放图形领域的相关能力,助力开发者高效构建虚实融合的数字世界。
 

图片来自 2022 年 7 月 HUAWEI Developer Day(简称 HDD)杭州站主论坛现场

开发者可以通过直接调用软件接口获得华为图形领域的核心能力,节省大量时间和精力,高效完成应用开发。

相信有了这种能力的加持,或许下一个爆款的 App 已在路上,元宇宙时代也将加速到来。

想知道更多AR手办跳舞背后的技术解读吗?快点击阅读原文观看完整视频。


© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:content@jiqizhixin.com

登录查看更多
0

相关内容

3D是英文“Three Dimensions”的简称,中文是指三维、三个维度、三个坐标,即有长、有宽、有高,换句话说,就是立体的,是相对于只有长和宽的平面(2D)而言。
直接分子构象生成
专知会员服务
8+阅读 · 2022年11月7日
中国虚拟主播行业生态研究报告
专知会员服务
30+阅读 · 2022年10月15日
元宇宙技术全景白皮书(2022年) (附下载),80页pdf
专知会员服务
156+阅读 · 2022年6月27日
【CVPR2022】用于全身图像生成的 InsetGAN
专知会员服务
25+阅读 · 2022年3月17日
元宇宙知识 | 如何在元宇宙中应用众多GAN模型???
专知会员服务
34+阅读 · 2022年1月29日
【NeurIPS 2020 】神经网络结构生成优化
专知会员服务
20+阅读 · 2020年10月24日
【2020新书】3D建模初学者指南,190页pdf
专知会员服务
31+阅读 · 2020年9月15日
【综述】金融领域中的深度学习,附52页论文下载
专知会员服务
163+阅读 · 2020年2月27日
陆奇也不能免AIGC这个「俗」
量子位
5+阅读 · 2022年11月22日
瘦脸、长腿,让我们起底美颜特效背后的技术
机器之心
3+阅读 · 2022年3月1日
请注意:这是真的机器人,不是合成动画
机器之心
0+阅读 · 2021年12月4日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Learning Implicit Fields for Generative Shape Modeling
Arxiv
10+阅读 · 2018年12月6日
dynnode2vec: Scalable Dynamic Network Embedding
Arxiv
14+阅读 · 2018年12月6日
Arxiv
10+阅读 · 2018年2月17日
Arxiv
23+阅读 · 2017年3月9日
VIP会员
相关VIP内容
直接分子构象生成
专知会员服务
8+阅读 · 2022年11月7日
中国虚拟主播行业生态研究报告
专知会员服务
30+阅读 · 2022年10月15日
元宇宙技术全景白皮书(2022年) (附下载),80页pdf
专知会员服务
156+阅读 · 2022年6月27日
【CVPR2022】用于全身图像生成的 InsetGAN
专知会员服务
25+阅读 · 2022年3月17日
元宇宙知识 | 如何在元宇宙中应用众多GAN模型???
专知会员服务
34+阅读 · 2022年1月29日
【NeurIPS 2020 】神经网络结构生成优化
专知会员服务
20+阅读 · 2020年10月24日
【2020新书】3D建模初学者指南,190页pdf
专知会员服务
31+阅读 · 2020年9月15日
【综述】金融领域中的深度学习,附52页论文下载
专知会员服务
163+阅读 · 2020年2月27日
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员