本科4篇顶会论文如何做到?清华特奖干货分享:我是这样写论文、做实验、与导师相处

2020 年 3 月 23 日 计算机视觉life

点击上方“计算机视觉life”,选择“星标”

快速获得最新干货

本文来自量子位

本科生,距离“科研”有多远?

有人还处在“小朋友你是否有很多问号”的状态,但也有人本科就连发顶会文章,光环闪瞎众人。

其中可有什么秘诀?

清华本科特奖获得者、清华计算机大四学生高天宇,带着他的直播课,来现身说法了:

论文千千万万,硬核与水货如何辨识?头都想秃了也没有idea怎么办?被导师push到心态崩溃怎么办?

量子位已经整理好了课堂笔记,快一起来一窥究竟:

这把打开本科生/嗑盐小白科研之门的门钥匙,到底长什么样。

清华官方推荐

如何看论文

预印论文网站、期刊/会议、公众平台……在这个信息爆炸的时代,论文也在爆炸式增长。

其中难免硬核与水货齐飞,质量参差不齐。

那么,如何高效地读论文呢?高天宇分享了他的小秘诀。

论文分类

首先,对论文进行分类:

截取自高天宇直播课

对于与自己当前课题相关的论文,需要有一个全面的把握,对每一篇都应有所了解。

一方面,这些研究本身与你的研究非常相关;另一方面,在“撞题”的情况下,你正在做的项目可能已经被别人率先突破。

而别的子领域相关论文,可能过于细分,对于你当前的研究没有太大启发,可以略过。

不过,有一些论文对于整个大的研究领域都存在指导意义,那么也需要认真研读、总结。

至于其他领域,比如CV之于NLP,取得重大突破的成果要了解,有可能会启发本领域的相关研究。

水文第一定律:标题越长,是水文的概率越大

高天宇统计了深度学习三巨头Bengio、Hinton和LeCun的论文,发现有这样一个规律:引用排名前十的论文,标题通常在6个词左右;引用排名后十的论文,标题长度则达到了约10个词。

标题越短,往往干货越多。

为了说明这样一种可能性,高天宇“自黑”了一把。

先来看看这个论文标题:

Hybrid Attention-Based Prototypical Networks for Noisy Few-Shot Relation Classification

论文地址:https://www.aaai.org/ojs/index.php/AAAI/article/view/4604

仔细分析一番:

这篇“水文”的作者正是高天宇本人,中了AAAI 2019。

总之,标题不是绝对的,但通过标题,还是可以粗略地对论文进行辨识。

需要注意的是,使用这一判断方法需要一定的本领域知识积累。

如何读论文

挑出了想读的论文,又该怎么去研读呢?

高天宇表示:对于大部分论文来说,看摘要就够了。

为什么这么说呢?以机器学习领域的论文为例,主要分为以下几个部分:

  • 摘要:研究意义(包括前人研究、研究的缺陷),研究方法,研究结果

  • 简介:很多大道理(解决了什么问题)

  • 相关工作:文献综述

  • 方法:细节

  • 实验:打脸专用(论文试金石)

  • 结论:基本没用(重复摘要)

所以,看完摘要,就能对这项研究有总体上的把握。如果感兴趣,可以再按照上面划出的重点,有选择地详读。

文献管理工具

当然啦,这么读下来,接触的论文数量还是很庞大的。为了防止读了忘、重复读等等问题,高天宇推荐了特奖自用文献管理工具。

idea从哪来

做科研最难的是想出一个idea,创意是写论文的开端。

你以为大神的idea都是在实验室里想出来的吗?并非如此。

高天宇觉得在这样一些场景下,更容易迸发灵感,比如在床上休息、去洗手间的路上以及吃饭时间。

事实上在这些放松的时刻,我们更能去安下心来思考,阿基米德也是在洗澡的时候想到了浮力原理。

当然,idea不能靠凭空想象,要对自己的领域有足够的认识。

首先系统性阅读自己所在领域的论文,找到前人工作缺失的地方,这可能就是你可以研究的内容。

另外idea可以是补全自己之前的论文,或是在和别人的学术讨论中得到。

idea的形式多种多样,有原创的突破性工作,就像发明衬衫,也有排列组合、迁移、渐进的补充性工作,就像给衬衫装上纽扣和前衣口袋,而灌水就像是在衣服背后缝了个口袋。

怎么做实验

有了idea,就要通过实验实现它。首先应避免主观偏见对实验的影响,不要带着idea的目的去做实验,把实验结果都解释成自己idea的正确性。

而是应该先否定自己的idea,在实验得到正确结果后感到高兴。即所谓的大胆假设小心求证。

以上只是实验遵循的常规法则,高天宇另外补充了很重要的一条:MVP(最小化可行产品)。

每一步都是实现最小化的可运行产品,而不是先实现一个更大产品的零件。就像先做出滑板车、自行车再造出汽车,而不是先造出汽车的轮子。

在实验中也有一定的步骤可参考:先做验证性实验,证明自己的idea可行,然后再开始做更进一步的实验。对于复杂的实验,应采用更简单的替代方案。

缓解科研压力,善与导师相处

说完了具体的科研方法,也要谈谈科研的周边问题。如何缓解科研压力,如何与导师相处。

因为科研的特殊原因,学生一般没有特定的工作休息时间。找到合适的休息时间很重要。

经常高负荷做科研的同学,在忙碌的时候可以切换一下任务,平时也可以记录日常工作,缓解自己拖延工作造成的心理压力。

另外,还有一条看似违反常理的建议,那就是把事情推到明天,这不是鼓励拖延,而是让你从一天的忙碌中跳出思维定式,也许明天会有更好的解决方案。

很多同学与导师关系不够融洽,高天宇也借此机会吐槽了一下导师。

但吐槽归吐槽,科研还要继续下去,和导师保持共同学习、共同合作的心态才行。

因为导师对你科研的指导作用很大,他对过往研究更了解,能对你的课题进行大方向的把控,实验中更丰富的经验,防止你走很多弯路。另外对于有出国深造意愿的同学,导师的推荐信能给你提供更好的机会。

学霸的时间管理心得

学霸的时间管理一定是优秀的,不然为什么人家能考第一,游戏还比你打得好。

高天宇就有一套自己的高效工作方式,他把事情分为4类:

紧急重要、紧急不重要、不紧急重要、不紧急不重要。

优先安排不紧急但重要的事情(比如看书、背单词),因为这些可能会被其他紧急情况挤占。

不重要但是紧急的事情,可以通过deadline催促自己完成。

划分一个特定的时间,专门用于处理琐碎事务。

很多人觉得时间不够用,其实很多事情并行处理,比如在做实验的等待过程中写论文。

另外高天宇推荐在电脑和手机上使用时间管理软件,尤其推荐Things、Notion。

最后,在疫情期间,如何在家做科研?高天宇给出一条郑重警告:千万不要碰床!因为一旦接触了床就再也起不来了。

希望这些技巧能为因疫情而无法恢复学习的你提供一些宝贵的人生经验。

关于学霸高天宇

这次为大家分享科研经验的高天宇,是清华大学计算机系2016级本科生,今年夏天即将毕业,在短短四年的本科生涯中,高天宇过得很充实:

2019年,他成为清华大学本科生特等奖学金获得者,清华大学学生“未来学者”计划成员。

4年里,高天宇总共在AI顶级学术会议上发表了4篇论文:两篇AAAI、两篇EMNLP。

高天宇从大一下学期就已经进入大公司实习。2017年5月,他在Momenta研究语义分割,2019年入选腾讯犀牛鸟精英人才计划,至今一直在微信AI实习。

他还为清华大学的三个GitHub项目做出了主要贡献,其中一个NLP项目——关系提取的开源软件包OpenNRE——自去年上线以来获2.3k星标。

另外他也是一名文艺爱好者,担任过清华大学学生会文艺部副部长、计算机系学生会文艺部部长,至于优秀团员、学业优秀奖等各种奖项和荣誉更是数之不尽了。

目前高天宇的下一步去向,我们没有打听到准确消息。

如果你知道点什么,也欢迎告诉我们。

今日份学习笔记,就酱~

课程地址:
https://www.bilibili.com/video/av95344119

高天宇博客页:
https://gaotianyu.xyz/about/

交流群

欢迎加入公众号读者群一起和同行交流,目前有SLAM、三维视觉、传感器自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN算法竞赛等微信群(以后会逐渐细分),请扫描下面微信号加群,备注:”昵称+学校/公司+研究方向“,例如:”张三 + 上海交大 + 视觉SLAM“。请按照格式备注,否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告,否则会请出群,谢谢理解~


投稿、合作也欢迎联系:simiter@126.com

长按关注计算机视觉life

登录查看更多
0

相关内容

粤港澳大湾区数字经济研究院是一家面向人工智能、数字经济产业和前沿科技的国际化创新型研究机构,坐落于深圳市深港科技创新合作区内。IDEA正与 MSR、Google Brain、DeepMind、OpenAI 等同行者一起推动人类 AI 技术前沿的发展。IDEA 的使命是立足社会需求,研发颠覆式创新技术并回馈社会,让更多的人从数字经济发展中获益。IDEA 秉承共享共赢共生的开源开放精神,积极营造自由而富有激情的创新工作环境,聚集全世界最聪慧的大脑一起创造人类社会最需要的价值。我们坚持科技擎天,产业立地,相信最好的研究从需求中来,到需求中去,最终惠及广大企业和受众。 IDEA 目前已聚集一批包括院士、世界著名大学教授、世界知名开源系统发明人在内的国际一流技术专家,致力于在 AI 基础技术与开源系统、人工智能金融科技、区块链技术与可信计算、企业级 AI 系统、产业智能物联网与智能机器人等领域研发国际顶尖成果,并培育一批国际领先科技企业,带动深圳乃至大湾区万亿级数字经济产业发展。 AIPT(AI 平台技术研究中心)致力于建设支撑人工智能算法、算力和数据的平台,通过具体项目的研发、实施和部署来推进 AI 技术的落地和产业化,团队成立以来,已发布 ReadPaper 论文阅读平台、BIOS 医疗知识图谱两款产品。AIPT 负责人-谢育涛曾任微软公司技术合伙人兼微软(中国)操作系统工程院院长。谢育涛在微软公司工作 20 余年,先后在微软美国总部的 Microsoft Office 产品组、必应团队、微软亚洲互联网工程院以及微软(中国)操作系统工程院、人工智能和云计算等多个研发部门担任重要职务。他在操作系统、搜索技术、人工智能、应用及服务领域拥有丰富的技术与管理经验。
专知会员服务
146+阅读 · 2020年6月15日
2020图机器学习GNN的四大研究趋势,21篇论文下载
专知会员服务
135+阅读 · 2020年2月10日
周志华教授:如何做研究与写论文?
专知会员服务
154+阅读 · 2019年10月9日
知识图谱本体结构构建论文合集
专知会员服务
106+阅读 · 2019年10月9日
微博大V@爱可可:arXiv论文怎么读?
人工智能头条
4+阅读 · 2018年4月26日
如何用人工智能帮你找论文?
AI100
10+阅读 · 2018年2月21日
已删除
Arxiv
32+阅读 · 2020年3月23日
Arxiv
21+阅读 · 2019年8月21日
Arxiv
6+阅读 · 2019年4月8日
Arxiv
31+阅读 · 2018年11月13日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
19+阅读 · 2018年6月27日
Arxiv
3+阅读 · 2018年6月24日
VIP会员
相关论文
已删除
Arxiv
32+阅读 · 2020年3月23日
Arxiv
21+阅读 · 2019年8月21日
Arxiv
6+阅读 · 2019年4月8日
Arxiv
31+阅读 · 2018年11月13日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
19+阅读 · 2018年6月27日
Arxiv
3+阅读 · 2018年6月24日
Top
微信扫码咨询专知VIP会员