今日 Paper | 精简BERT;面部交换;三维点云;DeepFakes 及 5G 等

2020 年 1 月 6 日 AI科技评论

为了帮助各位学术青年更好地学习前沿研究成果和技术,AI科技评论联合Paper 研习社(paper.yanxishe.com),重磅推出【今日 Paper】栏目, 每天都为你精选关于人工智能的前沿学术论文供你学习参考。以下是今日的精选内容——

  目录

  • ALBERT: A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS

  • FaceShifter: Towards High Fidelity And Occlusion Aware Face Swapping

  • Deep Learning for 3D Point Clouds: A Survey

  • Causal Discovery with Reinforcement Learning

  • A Survey of Multi-Access Edge Computing in 5G and Beyond: Fundamentals, Technology Integration, and State-of-the-Art

  • From Drinking Philosophers to Wandering Robots

  • DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection

  • Bayesian Learning via Stochastic Gradient Langevin Dynamics

  • Computational model discovery with reinforcement learning

  • Quantum Adversarial Machine Learning


  ALBERT:一种用于语言表征自监督学习的精简BERT

论文名称:ALBERT: A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS

作者:ZhenzhongLan /MingdaChen /SebastianGoodman

发表时间:2018/10/30

论文链接:https://paper.yanxishe.com/review/8078

推荐理由:bert模型开启了自然语言理解的预训练时代,很多和语义解析的相关任务都可以通过bert模型来提高效果,但是这也带来了一些问题,bert参数过多,模型过于复杂,需要较大的计算能力才可以支持,所以这导致了很大的问题,如何让模型变小,降低内存消耗,减少训练时间称为了当前的问题,也是必要的方向,albert正式解决这个问题的,它提出了两种降低内存消耗和提高BERT训练速度的参数约简技术。不仅解决了前面的问题,并且这种预训练模型比之前的bert的预训练模型的效果更好,在很多任务上都得到了超越。


  FaceShifter:迈向高保真度和遮挡意识的面部交换

论文名称:FaceShifter: Towards High Fidelity And Occlusion Aware Face Swapping

作者:Li Lingzhi /Bao Jianmin /Yang Hao /Chen Dong /Wen Fang

发表时间:2019/12/31

论文链接:https://paper.yanxishe.com/review/8077

推荐理由:这是北大和微软亚研院的联合工作,考虑的是人脸交换的问题。

这篇论文提出了一个名为FaceShifter的新颖的两阶段框架,用于实现高保真度和遮挡意识的人脸交换。与许多现有的人脸交换作品在合成交换的面孔时仅利用目标图像的有限信息不同,FaceShifter在其第一阶段通过充分自适应地利用和集成目标属性,以高保真度生成交换的面孔。这篇论文提出了一种新颖的属性编码器,用于提取多级目标人脸属性,并提出了一种经过精心设计的自适应注意力非正规化层的新生成器,以自适应地集成身份和人脸合成属性。为了解决具有挑战性的面部遮挡,FaceShifter附加了第二阶段,该阶段包括一个新颖的启发式错误确认细化网络。它经过训练可以以自我监督的方式恢复异常区域,而无需任何手动注释。在自然面孔上进行的大量实验表明,与其他最新方法相比,FaceShifter的交换结果不仅在感知上更具吸引力,而且还保留了更好的身份。


  三维点云深度学习研究综述

论文名称:Deep Learning for 3D Point Clouds: A Survey

作者:Guo Yulan /Wang Hanyun /Hu Qingyong /Liu Hao /Liu Li /Bennamoun Mohammed

发表时间:2019/12/27

论文链接:https://paper.yanxishe.com/review/8076

推荐理由:这是国防科大关于三维点云深度学习的研究综述。

点云学习在计算机视觉、自动驾驶和机器人等诸多领域都有广泛应用。作为人工智能领域的主要技术,深度学习已被成功地用于解决各种二维视觉问题。但是,由于三维点云在处理过程中面临一些独特的挑战,所以点云领域的深度学习技术仍然处于发展初期。为了促进点云学习未来的研究,这篇论文全面综述了点云深度学习方法的研究进展。这些方法主要包括3D形状分类、3D目标检测和追踪以及3D点云分割。此外,这篇论文还展示了在当前一些公开可用数据集上的比较结果,提出了具有洞察力的观察结果和启发性的未来研究方向。


  基于强化学习的因果发现

论文名称:Causal Discovery with Reinforcement Learning

作者:Zhu Shengyu /Ng Ignavier /Chen Zhitang

发表时间:2019/6/11

论文链接:https://paper.yanxishe.com/review/8075

推荐理由:这篇论文是华为诺亚方舟实验室被ICLR 2020接收的一篇满分论文,考虑的是因果研究中的因果发现问题。

作为下一个潜在的热点,因果研究已经吸引了机器学习和深度学习领域的的广泛关注。因果研究中一个经典的问题是因果发现问题,即从被动可观测的数据中发现潜在的因果图结构。这篇论文将强化学习应用到打分法的因果发现算法中,通过基于自注意力机制的encoder-decoder神经网络模型探索数据之间的关系,结合因果结构的条件,并使用策略梯度的强化学习算法对神经网络参数进行训练,最终得到因果图结构。这个方法比一些传统的因果发现算法和近期的基于梯度的算法在中等规模的图上的表现都更好,并且可以非常灵活地和任意的打分函数结合使用。


  5G及未来的多接入边缘计算综述:基础知识,技术集成和最新技术

论文名称:A Survey of Multi-Access Edge Computing in 5G and Beyond: Fundamentals, Technology Integration, and State-of-the-Art

作者:Pham Quoc-Viet /Fang Fang /Ha Vu Nguyen /Piran Md. Jalil /Le Mai /Le Long Bao /Hwang Won-Joo /Ding Zhiguo

发表时间:2019/6/20

论文链接:https://paper.yanxishe.com/review/8074

推荐理由:这是一篇边缘计算相关的综述论文。

在新的计算密集型应用程序的出现以及物联网(IoT)的愿景的推动下,可以预见的是,新兴的5G网络将面临流量和计算需求前所未有的增长。但是,最终用户大多具有有限的存储容量和有限的处理能力,因此,最近如何在资源受限的用户上运行计算密集型应用程序已成为一个自然而然的问题。移动边缘计算(MEC)是新兴的第五代移动网络中的一项关键技术,它可以通过托管计算密集型应用程序,在发送到云端之前处理大数据,在无线接入网中提供云计算功能来优化移动资源。 移动边缘计算支持严格要求实时响应的各种应用,例如无人驾驶车辆,增强现实,机器人技术和沉浸式媒体。在5G网络中成功实现MEC仍处于起步阶段,需要学术界和行业界的不断努力。这篇综述首先提供了MEC技术及其潜在用例和应用的整体概述。然后概述了有关MEC与将在5G及更高版本中部署的新技术的集成的最新研究。这篇论文还总结了用于边缘计算的测试平台和实验评估以及开源活动,进一步总结了从最新研究工作中汲取的教训,并讨论了MEC研究的挑战和潜在的未来方向。


  拓展阅读

由于篇幅有限,剩余五篇的论文推荐精选请扫描下方二维码继续阅读——

  • 从饮酒哲学家到漫游机器人

    论文名称:From Drinking Philosophers to Wandering Robots

  • DeepFakes和更多:人脸操纵和假检测研究综述

    论文名称:DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection

  • 基于随机梯度Langevin动力学的贝叶斯学习

    论文名称:Bayesian Learning via Stochastic Gradient Langevin Dynamics

  • 通过强化学习发现计算模型

    论文名称:Computational model discovery with reinforcement learning

  • 量子对抗机器学习

    论文名称:Quantum Adversarial Machine Learning

(扫码直达,可直接跳转下载论文)


阅读原文浏览剩余五篇论文推荐

登录查看更多
0

相关内容

专知会员服务
43+阅读 · 2020年7月7日
基于多头注意力胶囊网络的文本分类模型
专知会员服务
78+阅读 · 2020年5月24日
BERT进展2019四篇必读论文
专知会员服务
69+阅读 · 2020年1月2日
【Google论文】ALBERT:自我监督学习语言表达的精简BERT
专知会员服务
24+阅读 · 2019年11月4日
基于Siamese网络的多视角三维人脸重建
计算机视觉战队
5+阅读 · 2019年11月28日
一文读懂最强中文NLP预训练模型ERNIE
AINLP
25+阅读 · 2019年10月22日
站在BERT肩膀上的NLP新秀们(PART III)
AINLP
11+阅读 · 2019年6月18日
基于手机系统的实时目标检测
计算机视觉战队
8+阅读 · 2018年12月5日
人脸检测与识别总结
计算机视觉战队
21+阅读 · 2017年11月29日
Revealing the Dark Secrets of BERT
Arxiv
4+阅读 · 2019年9月11日
Arxiv
6+阅读 · 2018年1月14日
VIP会员
相关资讯
基于Siamese网络的多视角三维人脸重建
计算机视觉战队
5+阅读 · 2019年11月28日
一文读懂最强中文NLP预训练模型ERNIE
AINLP
25+阅读 · 2019年10月22日
站在BERT肩膀上的NLP新秀们(PART III)
AINLP
11+阅读 · 2019年6月18日
基于手机系统的实时目标检测
计算机视觉战队
8+阅读 · 2018年12月5日
人脸检测与识别总结
计算机视觉战队
21+阅读 · 2017年11月29日
Top
微信扫码咨询专知VIP会员