引用量破十万的AlexNet,你真的读懂了么?!

2022 年 3 月 22 日 CVer


今天,我们将介绍深度学习领域的一个著名网络AlexNet。2012年,Hinton的学生Alex Krizhevsky在寝室用GPU死磕了一个Deep Learning模型,一举摘下了视觉领域竞赛ILSVRC 桂冠,在百万量级的ImageNet数据集合上,以62.5%的TOP1准确率夺得冠军,并远远领先于同期的其他算法,震惊了CV届。


AlexNet的出现,正式开启了卷积神经网络在图像处理和许多相关领域的应用,带来了这一波持续至今的深度学习热潮。


并且确立了深度学习在计算机视觉的统治地位,同时也推动了深度学习在语音识别、自然语言处理、强化学习等领域的拓展。


AlexNet为何能耐如此之大?有三个很重要的原因:


(1)大量数据,Deep Learning领域应该感谢李飞飞团队搞出来如此大的标注数据集合ImageNet;


(2)GPU,这种高度并行的计算神器确实助了洪荒之力,没有神器在手,Alex估计不敢搞太复杂的模型;


(3)算法的改进,包括网络变深、数据增强、ReLU、Dropout等


但要想吃透AlexNet难度不小:一方面AlexNet指明了深度卷积神经网络可以取得出色的结果,但并没有提供简单的规则以指导后来的研究者如何设计新的网络。

另一方面AI领域学术会议动辄上千篇文章,无论是准研究生还是现研究生,都会碰到这个问题。


想要高效筛选、阅读、复现论文,首先从积累大量的经典论文开始因为前沿技术的更迭都是基于经典Paper的某个模型之上。前沿论文质量参差不齐,并不是每一篇都值得研读。

最后呢,有同学说他看论文时是这样的:



读论文的难点到底在哪里,我分析了一波:


1.重点难把握:动辄10多页的文字,看了半天找不出重点、关键点;

2.论文关系理不清:论文之间存在相互借鉴、引用,需要耗费大量的时间、精力才能理清,更何况大家阅历有限的情况下,根本就理不清;

3.公式图看不懂:公式复杂,步数过多,加大阅读理解难度,直接劝退新手;

4.无法复现论文代码:刚学python不久,python拓展c代码不会,编译问题不断,程序跑不起来,debugging....

5.坚持不下去:几乎以上任意一条就挺折磨人,如果你同时遇到上面三条困境,那就离放弃不远了。

如果粉丝们想要系统且高效学习CV ,我推荐大家参加深度之眼 


↓ 前方福利 ↓

原价298元,现在0.1元领取!

购买即赠《效率提升3倍的Paper阅读方法》


↓ 扫描下方二维码立即报名 ↓

CV高手方法论,教你系统学习论文


学习最怕的就是东拼西凑,网上找了资料一大堆,学到最后发现并不成体系,反而浪费了宝贵的时间,可以说是得不偿失。


深度之眼金牌导师-余老师,总结了他们阅读Paper的经验,再加上800+教研团的力量,打磨出一套系统学习论文的方法论,目前已经辅导过2w+学员,帮助过1w+学员成功复现论文。


深度之眼·余老师

· 某互联网公司CV算法工程师

· 著有电子书《PyTorch 模型训练最新实用教程》

· 在深度学习学习者和研究者中广为传播,并被“机器之心”等一线AI媒体转载和报道

· 研究机器学习、深度学习、图像分类及分割等众多技术领域。

· 发表论文2篇,授权1项发明专利。


1套系统的方法论:3步走教你啃透论文、复现代码


Step1:深挖研究背景 


提纲挚领,从4大维度介绍论文,深入讲解论文发表的研究背景、成果及意义,介绍论文中取得的核心成果,对比解决同一问题,已有解决方法和论文中提出的新的解决方法的优缺点,熟悉论文的整体思路和框架,建立对本篇论文的一个概貌性认识。



Step2:死磕算法模型


老师会重点讲解论文中的模型原理,深入拆解模型结构,对关键公式逐步推导,让你了解算法每一个因子是如何对结果产生影响的,掌握实验手段及结果,老师会帮你拎出论文中的关键点、创新点和启发点,节约你自己摸索的时间。



Step3:讲透代码复现


通过 Noteb00k 可视化讲解函数流程与计算数据流,会在 Pycharm 中整合工程完成训练,讲解过程会从是什么,怎么做,为什么三个层面帮你全面消化算法内容,手把手教你实现工程项目。



高手伴学,实现高效学习


· 3天高质量社群服务,导师全程陪伴

· 2场直播+1场录播,带给你完整的论文复现流程

· 200+学员同群交流,学习经验up up⬆⬆⬆

· 助教24小时答疑,再也不怕debug

· 专属班主任私信督学,治疗学习拖延症


重点是,如果你不知道怎么学习,购买课程后,班主任1v1给你制定学习计划!


配套无痛代码运行环境,一键跑通


深度之眼联合阿里云天池,免费匹配无痛代码运行环境,支持notebook和深度学习网络可视化建模,支持主流开源框架,通过编译优化提升训练性能。


GPU 优势:

① 工业级的GPU资源,比1080Ti好
② 不限次数运行
③ 最长运行时间八小时
④ 使用过程中遇到问题,有PD做答疑, 大大降低大家复现难度


完课即赠价值298元学习大礼包


为了激励大家完成学习,我们还准备了价值298元的算法工程师面试锦囊。只要完成全部课程的学习,你就能私信班主任获取!



学员好评,真香!



看了以上内容,你就知道为什么目前上过这门课程的同学都说好了。甚至有同学表示,课程太超值,99、299都愿意买!


这一次,我为粉丝们申请了50超值福利名额,


3天带你复现CV领域经典Paper

购买即赠《效率提升3倍的Paper阅读方法》


↓ 扫描下方二维码立即报名 ↓


如果你不知道怎么读论文、不知道如何正确复现论文,一定要跟着这门课程学习一次,因为正确的方法可以节约你10倍的阅读时间。


登录查看更多
0

相关内容

【课程】牛津大学&DeepMind《深度学习自然语言处理》课程
13个经典CNN架构比较分析!从AlexNet到ResNet再到ConvNeXt
专知会员服务
101+阅读 · 2022年3月14日
ICLR 2022接受论文列表出炉!1095 篇论文都在这了!
专知会员服务
75+阅读 · 2022年1月30日
何恺明的ResNet论文,被引量刚突破10万+
专知会员服务
26+阅读 · 2021年12月19日
ICLR 2021 评审出炉!来看看得分最高的50篇论文是什么!
专知会员服务
40+阅读 · 2020年11月13日
专知会员服务
146+阅读 · 2020年6月15日
何恺明的ResNet引用量突破10万!
CVer
0+阅读 · 2021年12月19日
何恺明的ResNet论文,被引量刚刚突破10万大关
PaperWeekly
0+阅读 · 2021年12月18日
推荐一个论文复现神器!
图与推荐
1+阅读 · 2021年11月22日
引用次数在 19000 次+的,都是什么神仙论文?
夕小瑶的卖萌屋
0+阅读 · 2021年9月22日
人脸识别 | 你的论文离CVPR , 还有多远?
夕小瑶的卖萌屋
0+阅读 · 2021年9月8日
Transformer秒杀CNN,凭什么?
图与推荐
1+阅读 · 2021年6月15日
被论文毁掉的中国研究生!
专知
1+阅读 · 2021年4月22日
如何3天读完并复现一篇经典顶会论文?
计算机视觉life
14+阅读 · 2020年7月22日
从AlexNet到胶囊网络,CNN这五年(视频详解)
大数据文摘
11+阅读 · 2017年12月22日
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
Arxiv
0+阅读 · 2022年4月18日
Interpretable CNNs for Object Classification
Arxiv
20+阅读 · 2020年3月12日
Arxiv
22+阅读 · 2018年8月30日
VIP会员
相关VIP内容
【课程】牛津大学&DeepMind《深度学习自然语言处理》课程
13个经典CNN架构比较分析!从AlexNet到ResNet再到ConvNeXt
专知会员服务
101+阅读 · 2022年3月14日
ICLR 2022接受论文列表出炉!1095 篇论文都在这了!
专知会员服务
75+阅读 · 2022年1月30日
何恺明的ResNet论文,被引量刚突破10万+
专知会员服务
26+阅读 · 2021年12月19日
ICLR 2021 评审出炉!来看看得分最高的50篇论文是什么!
专知会员服务
40+阅读 · 2020年11月13日
专知会员服务
146+阅读 · 2020年6月15日
相关资讯
何恺明的ResNet引用量突破10万!
CVer
0+阅读 · 2021年12月19日
何恺明的ResNet论文,被引量刚刚突破10万大关
PaperWeekly
0+阅读 · 2021年12月18日
推荐一个论文复现神器!
图与推荐
1+阅读 · 2021年11月22日
引用次数在 19000 次+的,都是什么神仙论文?
夕小瑶的卖萌屋
0+阅读 · 2021年9月22日
人脸识别 | 你的论文离CVPR , 还有多远?
夕小瑶的卖萌屋
0+阅读 · 2021年9月8日
Transformer秒杀CNN,凭什么?
图与推荐
1+阅读 · 2021年6月15日
被论文毁掉的中国研究生!
专知
1+阅读 · 2021年4月22日
如何3天读完并复现一篇经典顶会论文?
计算机视觉life
14+阅读 · 2020年7月22日
从AlexNet到胶囊网络,CNN这五年(视频详解)
大数据文摘
11+阅读 · 2017年12月22日
相关基金
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员