CVPR 2020 线上分享 | 深度学习不要乘法？北大、华为Oral论文提出加法神经网络

作为计算机视觉领域的三大国际顶会之一，CVPR 每年都会吸引全球领域众多专业人士参与。如 2019 年，CVPR 注册参会人数高达 9227 人，突破历届记录。其中，来自国内的参会人数就达到 1044 位，仅次于大会举办地美国（4743 位）。

CVPR 2020 原定于 6 月 16 日至 20 日在华盛顿州西雅图的华盛顿州会议中心举行，但是当前全球疫情势态严峻，越来越多的 AI 顶会开始转向线上，CVPR 也不例外。

虽然无法去现场交流，但这无法阻挡我们学习的热情。

为向读者们分享更多 CVPR 优质内容，在 CVPR 2020 开幕之前，机器之心将策划多期线上分享。这是机器之心 CVPR 2020 线上分享的第一期，我们邀请到北京大学智能科学系陈汉亭（论文一作）为我们介绍他们的 Oral 论文《AdderNet: Do We Really Need Multiplications in Deep Learning?》。在此论文中，来自北大、华为诺亚方舟实验室等机构的作者们提出完全用加法代替乘法，用 L1 距离代替卷积运算，从而显著减少计算力消耗。

演讲主题：加法神经网络：在深度学习中我们是否真的需要乘法？

简介 ：陈汉亭，北京大学智能科学系硕博连读三年级在读，同济大学学士，师从北京大学许超教授，研究兴趣主要包括计算机视觉、机器学习和深度学习。在 ICCV,AAAI,CVPR 等会议发表论文数篇，目前主要研究方向为神经网络模型小型化。

摘要 ：和廉价的加法操作相比，乘法操作需要更大的计算量。在深度神经网络中广泛应用的卷积计算了输入特征和卷积核的互相关，其中包含着大量乘法操作。我们提出了一种加法神经网络来将 CNN 中的大量乘法操作用加法来代替。具体的，我们将输出特征使用滤波器和输入特征的 L1 距离来度量。通过细致的分析，我们提出了基于全精度梯度的反向传播和自适应学习率来帮助加法神经网络的训练。实验结果表明，我们提出的加法神经网络能够取得和卷积神经网络近似的准确率，并且在卷积层中不含任何乘法。

• 论文地址:https://arxiv.org/pdf/1912.13200.pdf

• Github 代码地址：https://github.com/huawei-noah/AdderNet

时间：北京时间 4 月 22 日 20:00

CVPR 2020 机器之心线上分享

在 CVPR 2020 收录的大量优秀论文中，我们将选出数篇优质论文，邀请论文作者来做线上分享。整场分享包括两个部分：论文解读和互动答疑。

线上分享将在「CVPR 2020 交流群」中进行，加群方式：添加机器之心小助手（syncedai6），备注「CVPR」，邀请入群。入群后将会公布直播链接。

 

小助手二维码