传统神经网络具有过度依赖硬件资源和对应用设备性能要求较高的缺点,因此无法部署于算力有限的边缘设备和移动终端上,人工智能技术的应用发展在一定程度上受到了限制。然而,随着科技时代的到来,受用户需求影响的人工智能迫切需要在便携式设备上能成功进行如计算机视觉应用等方面的操作。为此,本文以近几年流行的轻量化神经网络中的卷积部分为研究对象,详细比对了各类轻量化模型中卷积构成方式的不同,并针对卷积设计的主要思路和特点进行了较为详细的阐述。首先,通过引入轻量化神经网络的概念,介绍了轻量化神经网络的发展现状和网络中卷积方面所面临的问题;然后,将卷积分为卷积结构轻量化、卷积模块轻量化和卷积运算轻量化三个方面进行介绍,具体通过对各类轻量化神经网络模型中卷积设计的研究,来展示不同卷积的轻量化效果并对其中优化方法的优缺点进行阐述;最后,对文中所有轻量化模型卷积设计的主要思路和使用方式进行了总结分析,并对其未来的可能性发展进行了展望。

http://fcst.ceaj.org/CN/abstract/abstract2903.shtml

成为VIP会员查看完整内容
54

相关内容

深度学习驱动的知识追踪研究进展综述
专知会员服务
34+阅读 · 2021年11月15日
FPGA加速深度学习综述
专知会员服务
66+阅读 · 2021年11月13日
图像分类的深度卷积神经网络模型综述
专知会员服务
56+阅读 · 2021年10月29日
快速卷积算法的综述研究
专知会员服务
26+阅读 · 2021年10月25日
卷积神经网络压缩中的知识蒸馏技术综述
专知会员服务
51+阅读 · 2021年10月23日
专知会员服务
54+阅读 · 2021年10月4日
专知会员服务
26+阅读 · 2021年8月24日
专知会员服务
112+阅读 · 2020年8月22日
专知会员服务
78+阅读 · 2020年8月4日
专知会员服务
72+阅读 · 2020年5月21日
多模态视觉语言表征学习研究综述
专知
25+阅读 · 2020年12月3日
深度学习模型可解释性的研究进展
专知
22+阅读 · 2020年8月1日
深度学习可解释性研究进展
专知
17+阅读 · 2020年6月26日
一文读懂图卷积GCN
计算机视觉life
21+阅读 · 2019年12月21日
综述 | 语义分割经典网络及轻量化模型盘点
计算机视觉life
51+阅读 · 2019年7月23日
硬件加速神经网络综述
计算机研究与发展
24+阅读 · 2019年2月1日
【优青论文】深度神经网络压缩与加速综述
计算机研究与发展
14+阅读 · 2018年9月20日
【干货】图卷积GCN前沿方法介绍
专知
32+阅读 · 2018年9月1日
一文了解各种卷积结构原理及优劣
量子位
9+阅读 · 2017年7月29日
Arxiv
53+阅读 · 2021年5月3日
Arxiv
14+阅读 · 2020年10月26日
Arxiv
53+阅读 · 2018年12月11日
Arxiv
19+阅读 · 2018年6月27日
Arxiv
3+阅读 · 2018年2月11日
Arxiv
6+阅读 · 2017年12月7日
VIP会员
相关VIP内容
深度学习驱动的知识追踪研究进展综述
专知会员服务
34+阅读 · 2021年11月15日
FPGA加速深度学习综述
专知会员服务
66+阅读 · 2021年11月13日
图像分类的深度卷积神经网络模型综述
专知会员服务
56+阅读 · 2021年10月29日
快速卷积算法的综述研究
专知会员服务
26+阅读 · 2021年10月25日
卷积神经网络压缩中的知识蒸馏技术综述
专知会员服务
51+阅读 · 2021年10月23日
专知会员服务
54+阅读 · 2021年10月4日
专知会员服务
26+阅读 · 2021年8月24日
专知会员服务
112+阅读 · 2020年8月22日
专知会员服务
78+阅读 · 2020年8月4日
专知会员服务
72+阅读 · 2020年5月21日
相关资讯
多模态视觉语言表征学习研究综述
专知
25+阅读 · 2020年12月3日
深度学习模型可解释性的研究进展
专知
22+阅读 · 2020年8月1日
深度学习可解释性研究进展
专知
17+阅读 · 2020年6月26日
一文读懂图卷积GCN
计算机视觉life
21+阅读 · 2019年12月21日
综述 | 语义分割经典网络及轻量化模型盘点
计算机视觉life
51+阅读 · 2019年7月23日
硬件加速神经网络综述
计算机研究与发展
24+阅读 · 2019年2月1日
【优青论文】深度神经网络压缩与加速综述
计算机研究与发展
14+阅读 · 2018年9月20日
【干货】图卷积GCN前沿方法介绍
专知
32+阅读 · 2018年9月1日
一文了解各种卷积结构原理及优劣
量子位
9+阅读 · 2017年7月29日
相关论文
Arxiv
53+阅读 · 2021年5月3日
Arxiv
14+阅读 · 2020年10月26日
Arxiv
53+阅读 · 2018年12月11日
Arxiv
19+阅读 · 2018年6月27日
Arxiv
3+阅读 · 2018年2月11日
Arxiv
6+阅读 · 2017年12月7日
微信扫码咨询专知VIP会员