Convolution is one of the basic building blocks of CNN architectures. Despite its common use, standard convolution has two main shortcomings: Content-agnostic and Computation-heavy. Dynamic filters are content-adaptive, while further increasing the computational overhead. Depth-wise convolution is a lightweight variant, but it usually leads to a drop in CNN performance or requires a larger number of channels. In this work, we propose the Decoupled Dynamic Filter (DDF) that can simultaneously tackle both of these shortcomings. Inspired by recent advances in attention, DDF decouples a depth-wise dynamic filter into spatial and channel dynamic filters. This decomposition considerably reduces the number of parameters and limits computational costs to the same level as depth-wise convolution. Meanwhile, we observe a significant boost in performance when replacing standard convolution with DDF in classification networks. ResNet50 / 101 get improved by 1.9% and 1.3% on the top-1 accuracy, while their computational costs are reduced by nearly half. Experiments on the detection and joint upsampling networks also demonstrate the superior performance of the DDF upsampling variant (DDF-Up) in comparison with standard convolution and specialized content-adaptive layers.


翻译:有线电视新闻网架构的基本构件之一的演变是CNN架构的基本构件之一。尽管有其共同的用途,标准变迁有两个主要缺陷:内容-不可知性和计算-重力。动态过滤器具有内容适应性,同时进一步增加计算间接费用。深度变迁是一个轻量变异,但通常会导致CNN性能下降,或需要更多频道。在这项工作中,我们提议分离的动态过滤器(DDDF)能够同时解决这两个缺陷。在关注的最新进展的启发下,DDDF将一个深度动态过滤器分解为空间和频道动态过滤器。这种变异使参数的数量大大降低,并将计算成本限制到与深度变异相同的水平。同时,我们看到在分类网络中用DDFFS取代标准变率时,业绩显著提高。ResNet50/101在头一精确度上提高1.9%和1.3%,而其计算成本则降低近一半。在探测和联合复制网络上进行的实验也显示DFFDF标准变式(DF-C-C-CDVDS-C)与专门变式比较的优异性。

0
下载
关闭预览

相关内容

【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
154+阅读 · 2020年5月26日
Capsule Networks,胶囊网络,57页ppt,布法罗大学
专知会员服务
67+阅读 · 2020年2月29日
抢鲜看!13篇CVPR2020论文链接/开源代码/解读
专知会员服务
49+阅读 · 2020年2月26日
ICLR2019最佳论文出炉
专知
12+阅读 · 2019年5月6日
CVPR2018 | Decoupled Networks
极市平台
4+阅读 · 2019年3月22日
【泡泡一分钟】基于视频修复的时空转换网络
泡泡机器人SLAM
5+阅读 · 2018年12月30日
LibRec 精选:推荐系统的论文与源码
LibRec智能推荐
14+阅读 · 2018年11月29日
Capsule Networks解析
机器学习研究会
11+阅读 · 2017年11月12日
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
【推荐】全卷积语义分割综述
机器学习研究会
19+阅读 · 2017年8月31日
Arxiv
7+阅读 · 2021年3月15日
Arxiv
37+阅读 · 2021年2月10日
Arxiv
8+阅读 · 2019年5月20日
Arxiv
3+阅读 · 2018年10月25日
Arxiv
24+阅读 · 2018年10月24日
Arxiv
8+阅读 · 2018年3月20日
VIP会员
相关资讯
ICLR2019最佳论文出炉
专知
12+阅读 · 2019年5月6日
CVPR2018 | Decoupled Networks
极市平台
4+阅读 · 2019年3月22日
【泡泡一分钟】基于视频修复的时空转换网络
泡泡机器人SLAM
5+阅读 · 2018年12月30日
LibRec 精选:推荐系统的论文与源码
LibRec智能推荐
14+阅读 · 2018年11月29日
Capsule Networks解析
机器学习研究会
11+阅读 · 2017年11月12日
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
【推荐】全卷积语义分割综述
机器学习研究会
19+阅读 · 2017年8月31日
相关论文
Arxiv
7+阅读 · 2021年3月15日
Arxiv
37+阅读 · 2021年2月10日
Arxiv
8+阅读 · 2019年5月20日
Arxiv
3+阅读 · 2018年10月25日
Arxiv
24+阅读 · 2018年10月24日
Arxiv
8+阅读 · 2018年3月20日
Top
微信扫码咨询专知VIP会员