成为VIP会员查看完整内容
VIP会员码认证
首页
主题
发现
会员
服务
注册
·
登录
0
报名 | 深度学习不要乘法?今晚北大、华为CVPR Oral论文分享不容错过
2020 年 4 月 22 日
机器之心
作为计算机视觉领域的三大国际顶会之一,CVPR 每年都会吸引全球领域众多专业人士参与。如 2019 年,CVPR 注册参会人数高达 9227 人,突破历届记录。其中,来自国内的参会人数就达到 1044 位,仅次于大会举办地美国(4743 位)。
CVPR 2020 原定于 6 月 16 日至 20 日在华盛顿州西雅图的华盛顿州会议中心举行,但是当前全球疫情势态严峻,越来越多的 AI 顶会开始转向线上,CVPR 也不例外。
虽然无法去现场交流,但这无法阻挡我们学习的热情。
为向读者们分享更多 CVPR 优质内容,在 CVPR 2020 开幕之前,机器之心将策划多期线上分享。这是机器之心 CVPR 2020 线上分享的第一期,我们邀请到北京大学智能科学系陈汉亭(论文一作)为我们介绍他们的 Oral 论文《AdderNet: Do We Really Need Multiplications in Deep Learning?》。在此论文中,来自北大、华为诺亚方舟实验室等机构的作者们提出完全用加法代替乘法,用 L1 距离代替卷积运算,从而显著减少计算力消耗。
演讲主题:加法神经网络:在深度学习中我们是否真的需要乘法?
简介
:陈汉亭,北京大学智能科学系硕博连读三年级在读,同济大学学士,师从北京大学许超教授,研究兴趣主要包括计算机视觉、机器学习和深度学习。在 ICCV,AAAI,CVPR 等会议发表论文数篇,目前主要研究方向为神经网络模型小型化。
摘要
:和廉价的加法操作相比,乘法操作需要更大的计算量。在深度神经网络中广泛应用的卷积计算了输入特征和卷积核的互相关,其中包含着大量乘法操作。我们提出了一种加法神经网络来将 CNN 中的大量乘法操作用加法来代替。具体的,我们将输出特征使用滤波器和输入特征的 L1 距离来度量。通过细致的分析,我们提出了基于全精度梯度的反向传播和自适应学习率来帮助加法神经网络的训练。实验结果表明,我们提出的加法神经网络能够取得和卷积神经网络近似的准确率,并且在卷积层中不含任何乘法。
论文地址:https://arxiv.org/pdf/1912.13200.pdf
Github 代码地址:https://github.com/huawei-noah/AdderNet
时间:北京时间 4 月 22 日 20:00
CVPR 2020 机器之心线上分享
在 CVPR 2020 收录的大量优秀论文中,我们将选出数篇优质论文,邀请论文作者来做线上分享。整场分享包括两个部分:论文解读和互动答疑。
线上分享将在「CVPR 2020 交流群」中进行,加群方式:添加机器之心小助手(syncedai6),备注「CVPR」,邀请入群。入群后将会公布直播链接。
小助手二维码
登录查看更多
点赞并收藏
0
暂时没有读者
0
权益说明
本文档仅做收录索引使用,若发现您的权益受到侵害,请立即联系客服(微信: zhuanzhi02,邮箱:bd@zhuanzhi.ai),我们会尽快为您处理
相关内容
CVPR
关注
1244
CVPR是IEEE Conference on Computer Vision and Pattern Recognition的缩写,即IEEE国际计算机视觉与模式识别会议。该会议是由IEEE举办的计算机视觉和模式识别领域的顶级会议。
知识荟萃
精品入门和进阶教程、论文和代码整理等
更多
查看相关VIP内容、论文、资讯等
【快讯】KDD2020论文出炉,216篇上榜, 你的paper中了吗?
专知会员服务
51+阅读 · 2020年5月16日
【CVPR 2020 Oral-北大华为】只用加法的神经网络,重磅开源
专知会员服务
31+阅读 · 2020年4月6日
【CVPR2020-旷视】DPGN:分布传播图网络的小样本学习
专知会员服务
27+阅读 · 2020年4月1日
【CVPR2020-Oral-计算所-旷视】学习用于语义分割的动态路由,Learning Dynamic Routing
专知会员服务
27+阅读 · 2020年3月24日
[CVPR 2020 Oral-牛津] RandLA-Net:大场景三维点云语义分割新框架
专知会员服务
26+阅读 · 2020年3月15日
CVPR 2020 论文开源项目合集
专知会员服务
110+阅读 · 2020年3月12日
30篇「CVPR2020」高赞论文抢先看!看计算机视觉2020在研究什么?
专知会员服务
50+阅读 · 2020年2月28日
抢鲜看!13篇CVPR2020论文链接/开源代码/解读
专知会员服务
50+阅读 · 2020年2月26日
【AAAI2020论文】小样本网络压缩,Few Shot Network Compression via Cross Distillation (附pdf)
专知会员服务
26+阅读 · 2019年11月23日
【元学习 | ICASSP2020提交论文】学习低资源语音识别,国立台湾大学 | 李宏毅
专知会员服务
57+阅读 · 2019年11月21日
今晚,华为诺亚方舟NeurIPS 2019论文分享:基于少量数据的神经网络模型压缩技术
机器之心
11+阅读 · 2019年11月21日
今晚,NeurIPS 2019 Spotlight论文分享:不完备专家演示下的模仿学习
机器之心
8+阅读 · 2019年11月13日
NeurIPS 2019 论文线上分享 | 清华大学Spotlight:不完备专家演示下的模仿学习
机器之心
3+阅读 · 2019年11月8日
CVPR2019最全整理:全部论文下载,Github源码汇总、直播视频、论文解读等
极市平台
39+阅读 · 2019年6月14日
重磅资料! | CVPR 2019 全部论文合集(1.37G)
AI研习社
3+阅读 · 2019年6月11日
CVPR2019 Oral | 基于siamese网络的单目标跟踪分享(已开源)
极市平台
14+阅读 · 2019年5月7日
极市直播|张志鹏:基于siamese网络的单目标跟踪(CVPR2019 Oral)
极市平台
7+阅读 · 2019年5月5日
极市干货|第40期直播回放:诸宸辰-CVPR2019:基于Anchor-free特征选择模块的单阶目标检测
极市平台
6+阅读 · 2019年4月21日
直播 | 大讲堂:基于小波变换的图卷积神经网络
AI科技评论
8+阅读 · 2019年1月3日
CVPR 2018 中国论文分享会 之「深度学习」
AI科技评论
11+阅读 · 2018年5月27日
Meta Learning for End-to-End Low-Resource Speech Recognition
Arxiv
20+阅读 · 2019年10月26日
Unified Vision-Language Pre-Training for Image Captioning and VQA
Arxiv
8+阅读 · 2019年10月3日
Residual Non-local Attention Networks for Image Restoration
Arxiv
9+阅读 · 2019年3月24日
LNEMLC: Label Network Embeddings for Multi-Label Classification
Arxiv
3+阅读 · 2019年1月1日
RAM: Residual Attention Module for Single Image Super-Resolution
Arxiv
9+阅读 · 2018年11月29日
Image Captioning based on Deep Reinforcement Learning
Arxiv
9+阅读 · 2018年9月13日
Image Captioning
Arxiv
11+阅读 · 2018年5月13日
Deep Temporal-Recurrent-Replicated-Softmax for Topical Trends over Time
Arxiv
4+阅读 · 2018年5月1日
Interpreting CNN Knowledge via an Explanatory Graph
Arxiv
11+阅读 · 2017年11月22日
Natural Language Processing: State of The Art, Current Trends and Challenges
Arxiv
4+阅读 · 2017年8月17日
VIP会员
自助开通(推荐)
客服开通
详情
相关主题
CVPR
CVPR 2020
北京大学
加法
加法神经网络
深度学习
相关VIP内容
【快讯】KDD2020论文出炉,216篇上榜, 你的paper中了吗?
专知会员服务
51+阅读 · 2020年5月16日
【CVPR 2020 Oral-北大华为】只用加法的神经网络,重磅开源
专知会员服务
31+阅读 · 2020年4月6日
【CVPR2020-旷视】DPGN:分布传播图网络的小样本学习
专知会员服务
27+阅读 · 2020年4月1日
【CVPR2020-Oral-计算所-旷视】学习用于语义分割的动态路由,Learning Dynamic Routing
专知会员服务
27+阅读 · 2020年3月24日
[CVPR 2020 Oral-牛津] RandLA-Net:大场景三维点云语义分割新框架
专知会员服务
26+阅读 · 2020年3月15日
CVPR 2020 论文开源项目合集
专知会员服务
110+阅读 · 2020年3月12日
30篇「CVPR2020」高赞论文抢先看!看计算机视觉2020在研究什么?
专知会员服务
50+阅读 · 2020年2月28日
抢鲜看!13篇CVPR2020论文链接/开源代码/解读
专知会员服务
50+阅读 · 2020年2月26日
【AAAI2020论文】小样本网络压缩,Few Shot Network Compression via Cross Distillation (附pdf)
专知会员服务
26+阅读 · 2019年11月23日
【元学习 | ICASSP2020提交论文】学习低资源语音识别,国立台湾大学 | 李宏毅
专知会员服务
57+阅读 · 2019年11月21日
热门VIP内容
开通专知VIP会员 享更多权益服务
《海军陆战队远征军信息组行动》美军条令
《文化:第六个领域和C6ISRT框架的引入》译文版
算法时代的战争艺术:认知战与人工智能驱动战略
《雷达任务调度与策略梯度强化学习:为连续观察和行动空间创建环境和智能体》最新报告
相关资讯
今晚,华为诺亚方舟NeurIPS 2019论文分享:基于少量数据的神经网络模型压缩技术
机器之心
11+阅读 · 2019年11月21日
今晚,NeurIPS 2019 Spotlight论文分享:不完备专家演示下的模仿学习
机器之心
8+阅读 · 2019年11月13日
NeurIPS 2019 论文线上分享 | 清华大学Spotlight:不完备专家演示下的模仿学习
机器之心
3+阅读 · 2019年11月8日
CVPR2019最全整理:全部论文下载,Github源码汇总、直播视频、论文解读等
极市平台
39+阅读 · 2019年6月14日
重磅资料! | CVPR 2019 全部论文合集(1.37G)
AI研习社
3+阅读 · 2019年6月11日
CVPR2019 Oral | 基于siamese网络的单目标跟踪分享(已开源)
极市平台
14+阅读 · 2019年5月7日
极市直播|张志鹏:基于siamese网络的单目标跟踪(CVPR2019 Oral)
极市平台
7+阅读 · 2019年5月5日
极市干货|第40期直播回放:诸宸辰-CVPR2019:基于Anchor-free特征选择模块的单阶目标检测
极市平台
6+阅读 · 2019年4月21日
直播 | 大讲堂:基于小波变换的图卷积神经网络
AI科技评论
8+阅读 · 2019年1月3日
CVPR 2018 中国论文分享会 之「深度学习」
AI科技评论
11+阅读 · 2018年5月27日
相关论文
Meta Learning for End-to-End Low-Resource Speech Recognition
Arxiv
20+阅读 · 2019年10月26日
Unified Vision-Language Pre-Training for Image Captioning and VQA
Arxiv
8+阅读 · 2019年10月3日
Residual Non-local Attention Networks for Image Restoration
Arxiv
9+阅读 · 2019年3月24日
LNEMLC: Label Network Embeddings for Multi-Label Classification
Arxiv
3+阅读 · 2019年1月1日
RAM: Residual Attention Module for Single Image Super-Resolution
Arxiv
9+阅读 · 2018年11月29日
Image Captioning based on Deep Reinforcement Learning
Arxiv
9+阅读 · 2018年9月13日
Image Captioning
Arxiv
11+阅读 · 2018年5月13日
Deep Temporal-Recurrent-Replicated-Softmax for Topical Trends over Time
Arxiv
4+阅读 · 2018年5月1日
Interpreting CNN Knowledge via an Explanatory Graph
Arxiv
11+阅读 · 2017年11月22日
Natural Language Processing: State of The Art, Current Trends and Challenges
Arxiv
4+阅读 · 2017年8月17日
大家都在搜
洛克菲勒
量化交易
大规模语言模型
研究报告
兵棋推演
自主可控
矢量旋翼
evolution
交通仿真
基于Pytorch的卷积算子的推导和实现
Top
提示
微信扫码
咨询专知VIP会员与技术项目合作
(加微信请备注: "专知")
微信扫码咨询专知VIP会员
Top