从传统神经网络的角度解读Geoffrey Hinton的Capsule模型 | GAIR大讲堂

2017 年 11 月 16 日 AI研习社 不灵叔


分享背景

近几年,“深度学习之父”Geoffrey Hinton多次公开表示,认为卷积神经网络、反向传播算法存在不合理之处,提倡研究者们在深度学习之上积极探索人工智能的新理论体系,并率先提出了capsule理念。近日,随着论文《Dynamic Routing Between Capsules》在arXiv上的放出以及另一篇仍处于盲审状态的论文《matrix capsules with EM routing》在网上的流传,Hinton的capsule计划再度引发了热议。本次分享人作为全球第一个将capsNet模型复现代码发布到github的作者,将通过与传统神经网络的对比来深入解读capsule模型。(关注AI研习社,回复【论文】即可获取论文原文、翻译以及三种环境下的不同实现。)


分享主题

从传统神经网络的角度解读Geoffrey Hinton的Capsule模型


分享提纲

1. capsule概念提出的背景

2. capsule模型与传统神经元的比较

3. 参数更新算法routing-by-agreement的分析

4. capsNet模型与卷积/全连接神经网络的比较

5. 讨论:论文的贡献及可改进之处

6. 核心算法的代码剖析




分享人简介

廖华东,重庆邮电大学二年级硕士生,生物信息学背景,capsNet模型Tensorflow版(http://t.cn/RW1hLNp)复现的作者,主要研究兴趣包括人工智能基础理论研究(如capsule理论、强化学习、GAN),及AI医疗。


分享时间

北京时间11月17日(周五)20:00


参与方式

扫描海报二维码添加社长微信,备注「廖华东



关注AI研习社,回复【论文】即可获取论文原文、翻译以及三种环境下的不同实现。

不要等到算法出现accuracy不好、

loss很高、模型overfitting时,

才后悔没有好好掌握基础数学理论。


走稳机器学习第一步,夯实数学基础


线性代数及矩阵论概率论与统计凸优化

3大数学基础课程,火热团购中!

扫码参团


公开课精彩往期回顾

复旦Ph.D沈志强:用于目标检测的DSOD模型(ICCV 2017)

极限元刘斌:深度学习在语音生成问题上的典型应用

搜狗文仕学:基于深度学习的语音分离

Video ++孙兆民:视频内容识别行业分析

悉尼科大王超岳:基于生成对抗网络的图像编辑方法

达观数据张健:文本分类方法和应用案例

清华Ph.D王书浩:基于深度学习的电商交易欺诈检测系统

Twitter工程师王东:详解YOLO2与YOLO9000目标检测系统

Kaggle比赛金牌团队:图像比赛的通用套路有哪些?

宜远智能刘凯:显著降低模型训练成本的主动增量学习


点击阅读原文,报名本场公开课

  

登录查看更多
1

相关内容

专知会员服务
142+阅读 · 2020年5月19日
【CVPR 2020-商汤】8比特数值也能训练卷积神经网络模型
专知会员服务
26+阅读 · 2020年5月7日
Capsule Networks,胶囊网络,57页ppt,布法罗大学
专知会员服务
69+阅读 · 2020年2月29日
【NeurIPS 2019的主要趋势】Key trends from NeurIPS 2019
专知会员服务
12+阅读 · 2019年12月19日
【电子书】让 PM 全面理解深度学习 65页PDF免费下载
专知会员服务
18+阅读 · 2019年10月30日
深度学习之星(二):GAN之图像转换 | 公开课
AI研习社
3+阅读 · 2017年12月11日
计算机视觉概述和深度学习简介 | 公开课
AI研习社
7+阅读 · 2017年12月5日
深度学习系列之三:循环神经网络 | 公开课
AI研习社
6+阅读 · 2017年12月2日
【回顾】深度学习之星:GAN的原理
AI研习社
5+阅读 · 2017年11月27日
深度学习系列之二:卷积神经网络 | 公开课
AI研习社
3+阅读 · 2017年11月24日
深度学习之星:GAN的原理 | 公开课
AI研习社
7+阅读 · 2017年11月22日
【回顾】深度学习在语音增强方向上的前沿研究
AI研习社
7+阅读 · 2017年11月20日
【回顾】医学影像计算与分析
AI研习社
5+阅读 · 2017年11月5日
【Capsule】浅析Geoffrey Hinton最近提出的Capsule计划
GAN生成式对抗网络
7+阅读 · 2017年9月28日
Arxiv
3+阅读 · 2018年10月25日
Text classification using capsules
Arxiv
5+阅读 · 2018年8月12日
Arxiv
5+阅读 · 2018年1月16日
VIP会员
相关资讯
深度学习之星(二):GAN之图像转换 | 公开课
AI研习社
3+阅读 · 2017年12月11日
计算机视觉概述和深度学习简介 | 公开课
AI研习社
7+阅读 · 2017年12月5日
深度学习系列之三:循环神经网络 | 公开课
AI研习社
6+阅读 · 2017年12月2日
【回顾】深度学习之星:GAN的原理
AI研习社
5+阅读 · 2017年11月27日
深度学习系列之二:卷积神经网络 | 公开课
AI研习社
3+阅读 · 2017年11月24日
深度学习之星:GAN的原理 | 公开课
AI研习社
7+阅读 · 2017年11月22日
【回顾】深度学习在语音增强方向上的前沿研究
AI研习社
7+阅读 · 2017年11月20日
【回顾】医学影像计算与分析
AI研习社
5+阅读 · 2017年11月5日
【Capsule】浅析Geoffrey Hinton最近提出的Capsule计划
GAN生成式对抗网络
7+阅读 · 2017年9月28日
Top
微信扫码咨询专知VIP会员