从入门深度学习到能发顶会,你用了多久?

2022 年 10 月 24 日 PaperWeekly

最近刷朋友圈,很多童鞋的状态都是,不是在搞科研,就是在搞科研的路上,每日为了科研废寝忘食……

每天的生活日常,除了下文献、读文献,就是做实验、写论文,debug,二十多岁的自己看着像三四十……

然而,结果好像并不和努力成正比。不说发顶会无望,写一篇不水的论文都不是件容易的事。那些学术大牛们,怎么就可以手握多篇顶会论文还笔耕不辍,似乎发一篇高质量的论文是分分钟的事,他们究竟有什么独门秘籍?

最近就有做预训练模型的科研er私信吐槽:

想水论文!奈何导师只负责分配研究方向,然后就当甩手掌柜。

想发论文,却没有丁点思路,不知道从哪开始入手,代码也无人指导……

你需要一些来自大神的指点和点拨。

扫码免费听课

1025日大神带你一节课掌握预训练模型

获取容易发论文的创新点

文末免费领超20G资料、课程福利


以GPT-3为代表的千亿参数模型,为我们展示了通用人工智能的某种实现路径:增大模型规模,从量变到质变。横亘在大模型之前的一个重要问题是,我们如何高效地利用好大模型,传统的pretrain-finetuing范式,会让大模型的每一次适配下游任务存储和训练成本都变得高昂。


parameters-efficient tuning方法应运而生,本期直播课便是为大家讲解如何通过参数高效的训练方法,利用好更大规模的模型。


预训练作为一个大的研究方向,卷起来了但是又不是那么卷,对于科研er来说,在这个方向可探索的空间还很大,获得一个好的idea,写出一篇好论文的概率相对就大得多。

很多童鞋的终极目标是拿着论文当敲门砖,去某某大厂开启人生新篇章。

那么剩下的问题就是,怎么发(水)论文?

想要快速发论文有两点至关重要。

1.紧跟风口。

想发文章最容易的方法就是紧跟风口,顺着领域内的研究趋势确定自己的方向,毕竟在热门领域内,创新点和idea远比其他非热门领域多。

2.有一位有经验有能力的前辈指导。

大家都在努力的设计新网络、新策略、新training算法,只要能够在某一问题上做到一个很好的performance,论文就水到渠成。而想要快速达到,来自前辈的指点不可或缺。

所以,要解决的问题就是:

1.找到风口。

2.找到领域内的大神做导师。


扫码免费听课

1025日大神带你一节课掌握预训练模型

获取容易发论文的创新点

文末免费领超20G资料、课程福利

创新点和idea不可能凭空生成,好的performance 也绝不可能一蹴而就。

10月25日,沃恩智慧邀请在人工智能领域已颇有建树的Joy老师,带大家精读三篇预训练模型最新前沿论文,全方位解读预训练发展应用、可创新方向



直播课亮点
0 1

亮点一:领读人和论文精挑细选

由在人工智能领域耕耘多年的科研大神带你精读最新顶会论文,作为有多篇顶会论文在手的科研大神,可充分把握人工智能发展的风向标。

0 2

亮点二:算法与论文齐头并进

Wendy老师将逐句分析论文中各段落、语句之间的关系,算法创新模型与科研论文创作技巧并学,以深厚的顶会、顶刊英文论文写作功力和深耕多年的科研经验带领大家层层闯关。

0 3

亮点三:全方位剖析,拒绝泛泛而读

针对论文,老师除了最基本的算法模型讲解外,更将从论文第一作者的角度深入剖析论文价值,并讲解论文泛读/精读的方法策略、写作方法策略、复现思路、代码分析……

扫码免费听课

1025日大神带你一节课掌握预训练模型

获取容易发论文的创新点

文末免费领超20G资料、课程福利







带读论文题目

(1) prefix-tuning: prefix-tuning optimizing continuous prompts for generation (ACL2021)

(2)adpaters-tuning: Parameter-Efficient Transfer Learning for NLP (NIPS2019)

(3)Mix-and-Match adapters:  Towards a unified view of parameter-efficient transfer learning (ICLR2021)



课程福利:




作为日常为了论文而忙碌的科研人,小编知道大家一定很需要一些资料。因此,小编精心整理了一份超过20G的AI顶会论文大礼包!包含最新顶会论文、书籍等资料,以及引文论文写作指导保姆级资料,从文献阅读到论文写作全部帮你整理好~

原价999

扫描二维码即可0元领取!

扫码领资料↑

此外~小编独家放送最新前沿论文带读课程添加老师微信即可免费领取课程讲师均为顶会顶刊论文作者,更身兼顶会顶刊审稿人,带你剖析顶会论文,寻找可能的创新点~

论文带读囊括CV、NLP、机器学习多个方向,总有一款适合你!

扫码添加老师微信即可免费领↑

课程目录(持续更新中)↓

来看看这份资料饕餮大餐都有什么

1.【2022最新AI论文与书籍】(持续更新中)8G

2.NLP、深度学习必读论文及资料合集



3.【SCI论文写作保姆级指导资料】13G

4.大神带你精读前沿论文

扫码添加老师微信即可免费领课程↑

-END-



登录查看更多
1

相关内容

论文(Paper)是专知网站核心资料文档,包括全球顶级期刊、顶级会议论文,及全球顶尖高校博士硕士学位论文。重点关注中国计算机学会推荐的国际学术会议和期刊,CCF-A、B、C三类。通过人机协作方式,汇编、挖掘后呈现于专知网站。
【干货书】深度学习全面指南,307页pdf
专知会员服务
155+阅读 · 2022年1月6日
FPGA加速深度学习综述
专知会员服务
68+阅读 · 2021年11月13日
学术论文自救之道:新手论文写作入门
PaperWeekly
2+阅读 · 2022年9月14日
论文攻略 | 如何快速入门顶会论文写作
机器学习与推荐算法
2+阅读 · 2022年7月6日
如果导师放养,怎么发表优质论文?
机器学习与推荐算法
0+阅读 · 2022年3月10日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年12月10日
Arxiv
0+阅读 · 2022年12月8日
Arxiv
64+阅读 · 2021年6月18日
Arxiv
49+阅读 · 2021年5月9日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
VIP会员
相关资讯
学术论文自救之道:新手论文写作入门
PaperWeekly
2+阅读 · 2022年9月14日
论文攻略 | 如何快速入门顶会论文写作
机器学习与推荐算法
2+阅读 · 2022年7月6日
如果导师放养,怎么发表优质论文?
机器学习与推荐算法
0+阅读 · 2022年3月10日
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员