本文使用加法器神经网络(AdderNet)研究单图像超分辨率问题。与卷积神经网络相比,AdderNet利用加法来计算输出特征,从而避免了传统乘法运算的大量能耗。但是,由于计算范式的不同,很难将AdderNet在大规模图像分类上的成功直接继承到图像超分辨率任务上。具体而言,加法器操作无法轻松学习身份映射,这对于图像处理任务至关重要。此外,AdderNet无法确保高通滤波的功能。为此,我们彻底分析了加法器操作与身份映射之间的关系,并插入shortcuts方式以使用加法器网络增强SR模型的性能。然后,我们开发了可学习的能量激活函数,用于调整特征分布和细化细节。在几个基准模型和数据集上进行的实验表明,我们使用AdderNets的图像超分辨率模型可以实现与CNN基线相当的性能和视觉质量,并且能耗降低了约2倍。

https://www.zhuanzhi.ai/paper/c49f1e5e686b73ed89d626bdd8ee7ecf

成为VIP会员查看完整内容
17

相关内容

专知会员服务
20+阅读 · 2021年5月1日
专知会员服务
37+阅读 · 2021年4月25日
【CVPR2021】探索图像超分辨率中的稀疏性以实现高效推理
专知会员服务
29+阅读 · 2021年4月5日
专知会员服务
20+阅读 · 2021年4月2日
专知会员服务
10+阅读 · 2021年3月21日
【CVPR2021】自监督几何感知
专知会员服务
45+阅读 · 2021年3月6日
专知会员服务
16+阅读 · 2020年10月18日
【KDD2020】多源深度域自适应的时序传感数据
专知会员服务
61+阅读 · 2020年5月25日
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
13+阅读 · 2020年10月19日
图像超分辨率网络:RCAN
极市平台
7+阅读 · 2019年8月18日
CVPR 2019 | 用异构卷积训练深度CNN:提升效率而不损准确度
基于深度学习的图像超分辨率最新进展与趋势【附PDF】
人工智能前沿讲习班
15+阅读 · 2019年2月27日
PyTorch可视化理解卷积神经网络
云栖社区
7+阅读 · 2019年2月6日
深度判别和共享特征学习的图像分类
计算机视觉战队
6+阅读 · 2017年9月27日
Arxiv
4+阅读 · 2018年6月1日
Arxiv
3+阅读 · 2018年2月12日
Arxiv
7+阅读 · 2018年1月10日
VIP会员
相关VIP内容
专知会员服务
20+阅读 · 2021年5月1日
专知会员服务
37+阅读 · 2021年4月25日
【CVPR2021】探索图像超分辨率中的稀疏性以实现高效推理
专知会员服务
29+阅读 · 2021年4月5日
专知会员服务
20+阅读 · 2021年4月2日
专知会员服务
10+阅读 · 2021年3月21日
【CVPR2021】自监督几何感知
专知会员服务
45+阅读 · 2021年3月6日
专知会员服务
16+阅读 · 2020年10月18日
【KDD2020】多源深度域自适应的时序传感数据
专知会员服务
61+阅读 · 2020年5月25日
相关资讯
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
13+阅读 · 2020年10月19日
图像超分辨率网络:RCAN
极市平台
7+阅读 · 2019年8月18日
CVPR 2019 | 用异构卷积训练深度CNN:提升效率而不损准确度
基于深度学习的图像超分辨率最新进展与趋势【附PDF】
人工智能前沿讲习班
15+阅读 · 2019年2月27日
PyTorch可视化理解卷积神经网络
云栖社区
7+阅读 · 2019年2月6日
深度判别和共享特征学习的图像分类
计算机视觉战队
6+阅读 · 2017年9月27日
微信扫码咨询专知VIP会员