她叫Siren,不是人,也可以是所有人

2018 年 5 月 30 日 腾讯

今天,介绍一个人,名字叫Siren(塞任)



朱唇轻启,嘴角含笑,这半张脸很普通。



而整个人,看上去也很普通。


但她不普通,因为,她,不是人


作为数字虚拟人,她有自己的名字,Siren,意为古希腊传说中半人半鸟的女海妖。


由腾讯互娱事业群的NEXT Studio 与Epic Games、Cubic Motion和3Lateral等业内各领域顶尖公司联合团队开发而成。


她,实际上也是人。



她的面部形象,来自于中国的女演员姜冰洁。


但Siren 也可以是所有人,她能够惟妙惟肖地“演绎”出其他人的表情,包括你的。



这项成果代表了目前实时渲染技术的业界顶尖水平。


Siren 所有的动作表情都是实时捕捉实时渲染


只要将这套动捕设备,戴在你头上。它能实时跟踪200多个面部特征点,并将这些数据实时地映射到Siren的面部Rig(骨骼绑定)驱动Siren的3D脸部模型。


动作表情以每秒60帧输出在屏幕上。


最最重点的是——数字虚拟人是可以基于任何人的样子进行扫描,扫描之后,TA就是被扫描者的复刻和分身了。


而驱动这一数字虚拟人的表情和动作的,可以是其他人。


这样,很多奇妙的事情就可以发生了。


周杰伦曾经幻想,能穿越时空,回到30年前,跟邓丽君合唱一首歌。


他说:那是多么荣幸的一件事啊。


30年后,他真的,跟她,隔空对唱。



周杰伦没有想到——这场机缘来自科技,是45名工程师耗2个月心血打造,这场重逢,让两个时代的歌手,在万千目光中,共谱了一曲。


《速度与激情7》里,保罗·沃克在不幸离世前,电影只拍完了八成左右的戏份,剧组是如何处理余下未拍摄的呢?




导演只好用CG方式来制作数字替身,辅以3D跟踪和相机运动匹配来完成剩余镜头,他还找来沃克的兄弟拍摄沃克的戏份。


影片的结尾,导演把保罗之前的影像剪辑到一起,给影迷一份深刻动人的完美怀念。


过去,让逝去的人重生,仿佛是一个无法实现的梦。科技让一切变得可能。


Siren 的出现,可以让人物“还原”,变得更简单



如果说3D“邓丽君”、“保罗”像电影特效制作一样,是一帧帧通过离线渲染抠出来的,那么Siren则是实时渲染出来的,可以实时互动


这个过程在15毫秒内完成,一般人几乎感受不到延迟。



为了追相片级的表现,整个开发过程,团队都需要在不同光照条件和相机位置下对比真实照片和引擎渲染结果,一点点修正。



换衣服对于她来说,就是挥挥手,抖三抖的事


现在Siren不管是高精度的面部动捕,还有长时间的身体动作捕捉,都一步步的做到尽可能的接近真实。


有了它,你可以和任何一个“人”实时互动交流。



那么有了Siren之后,会带来哪些改变?


我们可以大胆想象,未来,你也可以像《头号玩家》里的主人公一样,将自己的一举一动映射到虚拟角色身上,他是通过魔幻眼镜完成自由变身,而你通过Siren,完成置换。




除了在游戏中感受虚拟人的魅力,Siren在影视方向的想象空间也很大。


要知道,从替身到抠像,从人皮面具到真人倒模,在这些方面,电影的创意可谓层出不穷。



有了Siren之后,你再也不用担心这些流量小花鲜肉的演技了,形象扫一扫,剩下的表情驱动请交给真正的“演技派”。


当然对于老艺术家,我们也可以在他们年轻时,用数字化技术将他们定格在最美的时候,让他们的才华在艺术作品中以最鲜活的姿态存在。


除了成为“复刻”的明星,Siren本身是不是也可以成为全能偶像?


完全可以啊。初音未来多火不用说,洛天依的名字你想必也不陌生,那么对于更真实的Siren,潜力更是无限。



出个MV,上综艺,甚至开演唱会,代言游戏都不是问题,如果被赋予人工智能,能够想象的空间足够大。


你也可以成为虚拟主播?


脱离各种后期加持,无需动漫制作,告别滤镜、医美,面对最考验实时技术的直播,相信Siren小姐姐,也能应付自如,不用录播,人设就立在那里。


可能你所看到的女性Siren背后,驱动的是一个抠脚大汉呢。


还能变身智能语音助手?


Siren现在还需要真人驱动,未来,是否可以由AI驱动?那么想象家里像《银翼杀手》里,有一个虚拟伴侣或助手,想必很奇妙,叫你起床,关照你增添衣物,家里的一切因为她而变得舒心,感觉拥有了一个田螺姑娘呢。



“高保真,实时渲染,可交互,虚拟数字人....."


这些技术亮点背后,是Project Siren背后站着的一群人带来的尝试。


这群由腾讯互娱事业群的NEXT  Studio 与业内各领域顶尖公司联合组成的开发团队,正努力锻造超真实虚拟偶像的可能性。


未来,充满不确定性和挑战,我们期待Siren的再一次“改变”。


- 第一时间解读鹅厂最新动态 -


登录查看更多
0

相关内容

AI创新者:破解项目绩效的密码
专知会员服务
33+阅读 · 2020年6月21日
【SIGIR2020-微软】知识图谱上的增强推荐推理
专知会员服务
74+阅读 · 2020年5月30日
【Google】监督对比学习,Supervised Contrastive Learning
专知会员服务
74+阅读 · 2020年4月24日
【CVPR2020-Facebook AI】前置不变表示的自监督学习
专知会员服务
46+阅读 · 2020年4月19日
【机器学习课程】Google机器学习速成课程
专知会员服务
164+阅读 · 2019年12月2日
10行代码实现目标检测,请收下这份教程
极市平台
4+阅读 · 2018年6月27日
一份数据科学家必备的技能清单(附资源)
THU数据派
7+阅读 · 2018年5月29日
ETP:精确时序动作定位
极市平台
13+阅读 · 2018年5月25日
2018年唯一一次《机器读心术之计算机视觉实战特训营》
炼数成金订阅号
3+阅读 · 2018年5月24日
已删除
生物探索
3+阅读 · 2018年2月10日
解惑!卷积神经网络原来是这样实现图像识别的
人工智能学家
5+阅读 · 2017年8月13日
Directions for Explainable Knowledge-Enabled Systems
Arxiv
26+阅读 · 2020年3月17日
Deep Co-Training for Semi-Supervised Image Segmentation
VIP会员
相关资讯
10行代码实现目标检测,请收下这份教程
极市平台
4+阅读 · 2018年6月27日
一份数据科学家必备的技能清单(附资源)
THU数据派
7+阅读 · 2018年5月29日
ETP:精确时序动作定位
极市平台
13+阅读 · 2018年5月25日
2018年唯一一次《机器读心术之计算机视觉实战特训营》
炼数成金订阅号
3+阅读 · 2018年5月24日
已删除
生物探索
3+阅读 · 2018年2月10日
解惑!卷积神经网络原来是这样实现图像识别的
人工智能学家
5+阅读 · 2017年8月13日
Top
微信扫码咨询专知VIP会员