This paper presents an empirical exploration of the use of capsule networks for text classification. While it has been shown that capsule networks are effective for image classification, their validity in the domain of text has not been explored. In this paper, we show that capsule networks indeed have the potential for text classification and that they have several advantages over convolutional neural networks. We further suggest a simple routing method that effectively reduces the computational complexity of dynamic routing. We utilized seven benchmark datasets to demonstrate that capsule networks, along with the proposed routing method provide comparable results.


翻译:本文件介绍了对利用胶囊网络进行文本分类的实证探索。虽然已经表明胶囊网络对图像分类有效,但在文本领域没有探讨其有效性。在本文中,我们表明胶囊网络确实具有文本分类的潜力,而且它们比进化神经网络具有若干优势。我们进一步建议采用一种简单的路线选择方法,有效减少动态路线的计算复杂性。我们利用七个基准数据集来证明胶囊网络以及拟议的路线选择方法提供了可比的结果。

5
下载
关闭预览

相关内容

【MIT深度学习课程】深度序列建模,Deep Sequence Modeling
专知会员服务
75+阅读 · 2020年2月3日
[综述]深度学习下的场景文本检测与识别
专知会员服务
76+阅读 · 2019年10月10日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
胶囊网络(Capsule Network)在文本分类中的探索
PaperWeekly
13+阅读 · 2018年4月5日
Github 项目推荐 | 用 Pytorch 实现的 Capsule Network
AI研习社
22+阅读 · 2018年3月7日
三味Capsule:矩阵Capsule与EM路由
PaperWeekly
10+阅读 · 2018年3月2日
Capsule Networks教程
全球人工智能
10+阅读 · 2017年11月24日
Capsule Networks解析
机器学习研究会
10+阅读 · 2017年11月12日
如何看待 Hinton 那篇备受关注的Capsules论文?
AI研习社
6+阅读 · 2017年11月2日
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
Arxiv
4+阅读 · 2019年4月17日
Arxiv
12+阅读 · 2018年9月15日
Image Captioning based on Deep Reinforcement Learning
Arxiv
21+阅读 · 2018年5月23日
Arxiv
7+阅读 · 2018年4月24日
VIP会员
相关VIP内容
相关资讯
胶囊网络(Capsule Network)在文本分类中的探索
PaperWeekly
13+阅读 · 2018年4月5日
Github 项目推荐 | 用 Pytorch 实现的 Capsule Network
AI研习社
22+阅读 · 2018年3月7日
三味Capsule:矩阵Capsule与EM路由
PaperWeekly
10+阅读 · 2018年3月2日
Capsule Networks教程
全球人工智能
10+阅读 · 2017年11月24日
Capsule Networks解析
机器学习研究会
10+阅读 · 2017年11月12日
如何看待 Hinton 那篇备受关注的Capsules论文?
AI研习社
6+阅读 · 2017年11月2日
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
Top
微信扫码咨询专知VIP会员