强到离谱!Transformer为何能闯入CV界秒杀CNN?

2022 年 4 月 19 日 CVer
Transformer 近年来已成为视觉领域的新晋霸主,这个来自 NLP 领域的模型架构为何能闯入CV界秒杀CNN?


自提出之日起,Transformer模型已经在CV、NLP以及其他更多领域中「大展拳脚」,实力冲击CNN。


Transformer为什么这么有实力?因为它在分类、检测等任务上展现了极其强劲的性能。而且骨干网络上的发展也推动了下游任务的发展,Swin Transformer更是成了屠榜般的存在,在工业界具有广阔的应用前景。所以引起了人工智能研究生的强烈兴趣。


但要想啃透CV Transformer 难度不小一方面,Transformer本是应用于NLP的论文,其中很多内容都形成了共识,在论文中并不会去详细介绍这些共识内容,例如QKV是什么,embedding是什么等,对于其他方向的人看到这些就很难理解。

另一方面,近小半年,Transformer+CV的论文就已经有40多篇。学术研究更新之快,与脱发速度成正比

那么这些Transformer+CV的论文要怎么学习才能又好又快地吃透呢?


无非三个步骤:泛读、精读、代码复现。


这次我们请来了现处科研一线的——电子羊老师,推出【ViT】+【MAE】论文精讲直播,为期2天,彻底夯实 CV Transformer 基础。


直播嘉宾:

—— 直播内容与安排 ——


1、4月22日20:00直播

1.论文研究背景、成果及意义

2.论文精读

3.论文总结

4.学习路径推荐

2、4月23日20:00直播

1.MAE简介

2.PreTrain FineTune

3.为什么分类任务如此重要?

4.MAE的主要方法

5.MAE实验结果



↓ 前方福利 ↓

原价399现在0.1元领取!




扫码添加客服  即可领取

免费资料:《CV transformer经典论文》

(限99份,手慢无)

登录查看更多
0

相关内容

CVPR2022 | Sparse Transformer刷新点云目标检测的SOTA
专知会员服务
24+阅读 · 2022年3月9日
TPAMI 2022|华为诺亚最新视觉Transformer综述
专知会员服务
55+阅读 · 2022年2月24日
制造业数字化转型路线图,67页pdf
专知会员服务
76+阅读 · 2021年10月11日
【CVPR2021】用Transformers无监督预训练进行目标检测
专知会员服务
56+阅读 · 2021年3月3日
Transformer替代CNN?8篇论文概述最新进展!
专知会员服务
75+阅读 · 2021年1月19日
强的离谱,Transformer 杀疯了!
夕小瑶的卖萌屋
0+阅读 · 2022年3月9日
10小时现场coding直播,Vision Transformer中文开源课放出!
夕小瑶的卖萌屋
0+阅读 · 2021年11月22日
Transformer秒杀CNN,凭什么?
专知
0+阅读 · 2021年11月15日
为何Transformer在计算机视觉中如此受欢迎?
新智元
2+阅读 · 2021年10月2日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年6月9日
Arxiv
0+阅读 · 2022年6月7日
Arxiv
103+阅读 · 2021年6月8日
Arxiv
15+阅读 · 2020年2月5日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员