杀疯了!Transformer强势闯入CV界秒杀CNN

2022 年 5 月 31 日 PaperWeekly

Transformer提出之日起,Transformer模型已经在CV、NLP以及其他更多领域中「大展拳脚」,实力冲击CNN。


Transformer为什么这么有实力?因为它在分类、检测等任务上展现了极其强劲的性能。而且骨干网络上的发展也推动了下游任务的发展,Swin Transformer更是成了屠榜般的存在,在工业界具有广阔的应用前景。所以引起了人工智能研究生的强烈兴趣。


但要想啃透CV Transformer 难度不小


一方面,Transformer本是应用于NLP的论文,其中很多内容都形成了共识,在论文中并不会去详细介绍这些共识内容,例如QKV是什么,embedding是什么等,对于其他方向的人看到这些就很难理解。

另一方面,近小半年,Transformer+CV的论文就已经有40多篇。学术研究更新之快,与脱发速度成正比

那么这些Transformer+CV的论文要怎么学习才能又好又快地吃透呢?


无非三个步骤:泛读、精读、代码复现。


这次我们请来了现处科研一线——电子羊老师,推出CV中的Transformer专题MAE详解直播】,帮你彻底夯实 CV Transformer 基础。


直播嘉宾:

—— 直播内容与安排 ——


5月31日20:00直播

1.MAE简介

2.PreTrain FineTune

3.为什么分类任务如此重要?

4.MAE的主要方法

5.MAE实验结果


↓ 前方福利 ↓

现在预约直播0.1

👆扫码添加客服  即可领取

免费资料:《transformer经典论文》

(限99份,手慢无)



急需机器人顶会Paper作者!




登录查看更多
0

相关内容

ICLR 2022 | BEIT论文解读:将MLM无监督预训练应用到CV领域
专知会员服务
32+阅读 · 2022年3月24日
【Tutorial】计算机视觉中的Transformer,98页ppt
专知会员服务
143+阅读 · 2021年10月25日
专知会员服务
44+阅读 · 2021年6月1日
2021机器学习研究风向是啥?MLP→CNN→Transformer→MLP!
专知会员服务
65+阅读 · 2021年5月23日
专知会员服务
63+阅读 · 2021年4月11日
Transformer替代CNN?8篇论文概述最新进展!
专知会员服务
75+阅读 · 2021年1月19日
ViT杀疯了,10+视觉Transformer模型详解
PaperWeekly
0+阅读 · 2022年7月4日
强的离谱,Transformer 杀疯了!
夕小瑶的卖萌屋
0+阅读 · 2022年3月9日
爆肝何恺明的视觉预训练新范式MAE!
CVer
2+阅读 · 2022年1月12日
Transformer秒杀CNN,凭什么?
图与推荐
1+阅读 · 2021年6月15日
Transformer在计算机视觉领域走到哪了?
微软研究院AI头条
0+阅读 · 2021年5月20日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年7月27日
Arxiv
0+阅读 · 2022年7月22日
Arxiv
69+阅读 · 2022年6月13日
Arxiv
17+阅读 · 2022年2月23日
Arxiv
17+阅读 · 2021年3月29日
VIP会员
相关资讯
ViT杀疯了,10+视觉Transformer模型详解
PaperWeekly
0+阅读 · 2022年7月4日
强的离谱,Transformer 杀疯了!
夕小瑶的卖萌屋
0+阅读 · 2022年3月9日
爆肝何恺明的视觉预训练新范式MAE!
CVer
2+阅读 · 2022年1月12日
Transformer秒杀CNN,凭什么?
图与推荐
1+阅读 · 2021年6月15日
Transformer在计算机视觉领域走到哪了?
微软研究院AI头条
0+阅读 · 2021年5月20日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Arxiv
0+阅读 · 2022年7月27日
Arxiv
0+阅读 · 2022年7月22日
Arxiv
69+阅读 · 2022年6月13日
Arxiv
17+阅读 · 2022年2月23日
Arxiv
17+阅读 · 2021年3月29日
Top
微信扫码咨询专知VIP会员