Capsule Networks解析

2017 年 11 月 12 日 机器学习研究会


点击上方 “机器学习研究会”可以订阅


摘要
 

转自:爱可可-爱生活

What are Capsule Networks and why do they exist?


The Capsule Network is a new type of neural network architecture conceptualized byGeoffrey Hinton, the motivation behind Capsule Networks is to address some of the short comings of Convolutional Neural Networks (ConvNets), which are listed below:

Problem 1: ConvNets are Translation Invariant [1]

What does that even mean? Imagine that we had a model that predicts cats. You show it an image of a cat, it predicts that it’s a cat. You show it the same image, but shifted to the left, it still thinks that it’s a cat without predicting any additional information.

Figure 1.0: Translation Invariance

What we want to strive for is translation equivariance. That means that when you show it an image of a cat shifted to the right, it predicts that it’s a cat shifted to the right. You show it the same cat but shifted towards the left, it predicts that its a cat shifted towards the left.

Figure 1.1: Translation Equivariance

Why is this a problem? ConvNets are unable to identify the position of one object relative to another, they can only identify if the object exists in a certain region, or not. This results in difficulty correctly identifying objects that have sub-objects that hold positional relationships relative to one another.


For example, a bunch of randomly assembled face parts will look like a face to a ConvNet, because all the key features are there:


链接:

https://kndrck.co/posts/capsule_networks_explained/


原文链接:

https://m.weibo.cn/1402400261/4173136671070127

“完整内容”请点击【阅读原文】
↓↓↓
登录查看更多
10

相关内容

专知会员服务
50+阅读 · 2020年3月19日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
111+阅读 · 2020年3月18日
Capsule Networks,胶囊网络,57页ppt,布法罗大学
专知会员服务
63+阅读 · 2020年2月29日
开源书:PyTorch深度学习起步
专知会员服务
41+阅读 · 2019年10月11日
强化学习最新教程,17页pdf
专知会员服务
99+阅读 · 2019年10月11日
[综述]深度学习下的场景文本检测与识别
专知会员服务
58+阅读 · 2019年10月10日
机器学习入门的经验与建议
专知会员服务
61+阅读 · 2019年10月10日
【CNN】一文读懂卷积神经网络CNN
产业智能官
16+阅读 · 2018年1月2日
ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
全球人工智能
17+阅读 · 2017年12月17日
【推荐】ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
机器学习研究会
18+阅读 · 2017年12月17日
Capsule Networks教程
全球人工智能
9+阅读 · 2017年11月24日
【推荐】YOLO实时目标检测(6fps)
机器学习研究会
19+阅读 · 2017年11月5日
【推荐】决策树/随机森林深入解析
机器学习研究会
5+阅读 · 2017年9月21日
【推荐】RNN/LSTM时序预测
机器学习研究会
24+阅读 · 2017年9月8日
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
9+阅读 · 2017年9月3日
【推荐】图像分类必读开创性论文汇总
机器学习研究会
14+阅读 · 2017年8月15日
Neural Image Captioning
Arxiv
5+阅读 · 2019年7月2日
Local Relation Networks for Image Recognition
Arxiv
3+阅读 · 2019年4月25日
Arxiv
6+阅读 · 2018年5月21日
Arxiv
10+阅读 · 2018年2月17日
VIP会员
相关VIP内容
专知会员服务
50+阅读 · 2020年3月19日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
111+阅读 · 2020年3月18日
Capsule Networks,胶囊网络,57页ppt,布法罗大学
专知会员服务
63+阅读 · 2020年2月29日
开源书:PyTorch深度学习起步
专知会员服务
41+阅读 · 2019年10月11日
强化学习最新教程,17页pdf
专知会员服务
99+阅读 · 2019年10月11日
[综述]深度学习下的场景文本检测与识别
专知会员服务
58+阅读 · 2019年10月10日
机器学习入门的经验与建议
专知会员服务
61+阅读 · 2019年10月10日
相关资讯
【CNN】一文读懂卷积神经网络CNN
产业智能官
16+阅读 · 2018年1月2日
ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
全球人工智能
17+阅读 · 2017年12月17日
【推荐】ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
机器学习研究会
18+阅读 · 2017年12月17日
Capsule Networks教程
全球人工智能
9+阅读 · 2017年11月24日
【推荐】YOLO实时目标检测(6fps)
机器学习研究会
19+阅读 · 2017年11月5日
【推荐】决策树/随机森林深入解析
机器学习研究会
5+阅读 · 2017年9月21日
【推荐】RNN/LSTM时序预测
机器学习研究会
24+阅读 · 2017年9月8日
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
9+阅读 · 2017年9月3日
【推荐】图像分类必读开创性论文汇总
机器学习研究会
14+阅读 · 2017年8月15日
Top
微信扫码咨询专知VIP会员