胶囊神经网络研究现状与未来的浅析

2021 年 2 月 12 日 专知



当今时代的人工智能技术迅速发展,推动了社会的巨大进步。深度学习作为人工智能领域重要的一部分,具有非常广阔的应用前景,近年来,越来越多的专家学者开始研究深度学习领域相关技术,比较典型的两个方向就是自然语言处理和计算机视觉,其中计算机视觉的发展大力引领着深度学习领域的进步。介绍了卷积神经网络的经典模型和深度学习中新型神经网络模型——胶囊网络以及其动态路由算法,并对比了二者的优劣性。对胶囊网络的应用给予综述,以图像和文本两方面来阐述胶囊网络的应用领域和优势所在。最后进行概括总结,并展望了胶囊网络可能的改进方向。


深度学习是机器学习的一部分,随着大数据时代的 到来和 GPU 技术的进步,深度学习广泛应用于图像识 别、图像分类、图像分割、目标检测[1] 、身份认证[2] 、知识 图谱[3] 、自然语言处理、语音识别、文本分类[4] 等各个领 域。与传统的机器学习算法相比,深度学习的优越性在 于其卓越的准确性。从图像分类到自然语言处理,深层 神经网络正被应用于不同的领域。人们对人工神经网 络进行了研究,开发了不同类型的神经网络,如卷积神 经网络和循环神经网络,它们已经应用于不同的应用领 域。卷积神经网络的引入是神经网络重新流行的原因 之一。可是研究发现它存在一个根本性的问题,即无法考虑到底层目标特征之间的空间关系。由于在卷积神 经网络中,上一层神经元传递到下一层神经元中的是标 量,标量没有方向,无法表示出高层特征与低层特征之 间的位姿关系。另外,它的池化层会丢失大量有价值的 信息,因此卷积神经网络存在较大的局限性。2017年, Geoffrey Hinton 在神经网络架构中引入了一个新概 念——胶囊网络。


胶囊网络是近年来为克服卷积神经网络存在的缺 陷而引入的神经网络之一,它以向量的形式来表示部分 与整体之间的关系,不仅能够以特征响应的强度来表示 图像,还能够表征图像特征的方向、位置等信息。同时,胶囊网络采用囊间动态路由算法,取代传统卷积神经网 络中的最大池化法,避免了图像因池化导致精确位置信 息的丢失。因此,胶囊网络以其独特魅力迅速成为深度 学习领域的一项热门技术,众多科研人员纷纷致力于对 其进行深入研究。


http://cea.ceaj.org/CN/abstract/abstract39347.shtml


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“胶囊网络” 可以获取《胶囊神经网络研究现状与未来的浅析》专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

专知会员服务
65+阅读 · 2021年5月4日
专知会员服务
90+阅读 · 2021年4月18日
专知会员服务
60+阅读 · 2021年3月9日
专知会员服务
61+阅读 · 2021年3月6日
专知会员服务
32+阅读 · 2021年2月1日
注意力机制综述
专知会员服务
82+阅读 · 2021年1月26日
卷积神经网络模型发展及应用(中文版),20页pdf
专知会员服务
88+阅读 · 2021年1月15日
小目标检测技术研究综述
专知会员服务
118+阅读 · 2020年12月7日
专知会员服务
103+阅读 · 2020年11月27日
3D目标检测进展综述
专知会员服务
191+阅读 · 2020年4月24日
多模态视觉语言表征学习研究综述
专知
27+阅读 · 2020年12月3日
领域知识图谱研究综述
专知
16+阅读 · 2020年8月2日
深度学习模型可解释性的研究进展
专知
25+阅读 · 2020年8月1日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
基于深度学习的多标签生成研究进展
专知
4+阅读 · 2020年4月25日
深度学习技术发展趋势浅析
人工智能学家
27+阅读 · 2019年4月11日
新型神经网络结构?详解胶囊网络到底是什么东东
ISI新研究:胶囊生成对抗网络
论智
17+阅读 · 2018年3月7日
TResNet: High Performance GPU-Dedicated Architecture
Arxiv
8+阅读 · 2020年3月30日
Arxiv
22+阅读 · 2019年11月24日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Arxiv
12+阅读 · 2018年9月5日
VIP会员
相关VIP内容
专知会员服务
65+阅读 · 2021年5月4日
专知会员服务
90+阅读 · 2021年4月18日
专知会员服务
60+阅读 · 2021年3月9日
专知会员服务
61+阅读 · 2021年3月6日
专知会员服务
32+阅读 · 2021年2月1日
注意力机制综述
专知会员服务
82+阅读 · 2021年1月26日
卷积神经网络模型发展及应用(中文版),20页pdf
专知会员服务
88+阅读 · 2021年1月15日
小目标检测技术研究综述
专知会员服务
118+阅读 · 2020年12月7日
专知会员服务
103+阅读 · 2020年11月27日
3D目标检测进展综述
专知会员服务
191+阅读 · 2020年4月24日
相关资讯
多模态视觉语言表征学习研究综述
专知
27+阅读 · 2020年12月3日
领域知识图谱研究综述
专知
16+阅读 · 2020年8月2日
深度学习模型可解释性的研究进展
专知
25+阅读 · 2020年8月1日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
基于深度学习的多标签生成研究进展
专知
4+阅读 · 2020年4月25日
深度学习技术发展趋势浅析
人工智能学家
27+阅读 · 2019年4月11日
新型神经网络结构?详解胶囊网络到底是什么东东
ISI新研究:胶囊生成对抗网络
论智
17+阅读 · 2018年3月7日
Top
微信扫码咨询专知VIP会员