SFFAI分享 | 王少楠:博士生活杂谈【附PPT与视频资料】

2019 年 3 月 24 日 人工智能前沿讲习班

关注文章公众号

回复"SFFAI20"获取PPT资料

视频资料可点击下方阅读原文在线观看


1. 主题简介


分享个人在自动化所的读博经历与收获的感悟,在读博期间的成长与遗憾,旨在与大家交流学习,共同提高。 


作者简介


王少楠,中国科学院自动化研究所助理研究员,研究兴趣为自然语言处理、语义分析与计算、语言神经认知基础等。曾获2018年中国科学院优秀毕业生称号,中国科学院院长奖学金特别奖,以及中文信息学会优秀毕业论文。在国际一流学术会议(IJCAI、AAAI、EMNLP)和国际权威期刊 ACM TALLIP 上发表论文多篇。

 

2. 具体内容


大家好,我是来自模式实验室的王少楠。

今天主要想跟大家分享博士期间以及工作近一年来的经历和感悟,我的博士生涯可以说是从博二回到研究所开始的,在这之前都是被动学习的阶段,从回到研究所拿到研究方向开始,由被动学习接受知识变为主动学习创造知识,我认为这可以标志着博士阶段的开始吧。在这里建议大家可以在回研究所或者学校之前来所里或学校实习,提前接触实验室的研究项目和工程,熟悉实验室的氛围,这对于之后的研究很有益处。

初回研究所,遇到的第一个问题就是如何选择一个研究课题,研究课题一般是导师根据研究组的研究方向和未来规划设定的。研究课题可能是一个新问题,或者是老问题,各有利弊,可以根据自己的能力、兴趣和未来职业规划来选择。我认为新问题 的已有工作少、创新性高、风险高,比较适合自主能力强未来也要从事科研工作的人,而老问题的已有工作多、变化快、创新性,比较适合未来想进入企业工作的人。

我当初根据兴趣选择了一个交叉学科的研究方向,借鉴认知神经科学经验的自然语言处理方法。

这个方向涉及了两门主要学科,我做的第一件事情就是去熟悉这两门学科。这里推荐入手学习一门学科的方式的次序为沟通为主、实践+教材次之,最后是论文和上课。

熟悉完基础知识之后,一个重要的事情就是我要研究什么问题。因为我的目标是解决自然语言处理任务,以自然语言任务出发,设计认知神经科学实验,验证某个结论,提升模型性能,因此我跟老板商量之后选择了语义分析中的词义消岐任务。

现在任务和问题基本确定了,时间也来到了博三年级,下一步就是要怎么去解决这个问题。自然我首先去了解了两个学科对于这个问题的研究结论。自然语言处理领域认为语境和词频是影响词义消岐的两个主要特征,认知神经科学对于人脑词义消岐的结论是上下文约束不强时,两个意思通达(no N400 change);上下文对次要意思强约束时,两个意思通达;上下文对主要意思强约束时,只有主要意思通达。

那么怎么结合两个学科的结论来研究这个问题呢?经过调研之后我发现,既然语境是计算机词义消解的关系,那么设计脑电/眼动实验探索哪些语境特征对于人脑词义消解是重要的,这个思路也许可行。于是联系了相关认知领域的人去讨论,吃了一鼻子的灰,发现认知科学需要严格控制变量、设计实验语料、研究某一个特性,与自然语言领域的研究思路完全不同,复杂的想法根本无法验证。

在这个阶段遇到了很多挫折,也做了很多反思,心态上从要彻底解决一个研究问题转变到从简单做起、改进已有方法的问题,这个心态的转变对于我来说是一个重要的转折,让我意识到不能一上来就给自己设定太宏大的目标,问题解决是一步一个脚印走出来的。在博三的最后阶段,发表了第一篇文章,也逐渐开始明白了如何研究一个科学问题。在这里,要十分感谢自己的导师,逐字逐句的帮我修改论文,用极大的耐心指导我如何撰写论文以及如何做研究。导师有很多话当时的我不太理解,到现在自己开始指导学生才能逐渐明白其中的道理。

迈过科研的第一道关卡之后,时间也进入到博四阶段,这时我逐渐找到了做研究的感觉,在语义分析中的语义表征问题上连续做了几个工作,发表了一些论文,也得以出国开会去宣传这些工作。

时间过的很快,转眼间就到了博士最后一年,面临工作的选择问题。我当时选择了直接留所工作,没有去找其他的工作机会。这是因为导师和课题组和研究氛围很好很温暖,而且对我来说自由的工作时间、感兴趣的工作内容、并且可以带来成就感的工作是我的首选,而留在研究所工作无疑很契合上述条件。

工作之后,有几个重要的转变,首先是心态上由做学生时的毕业压力到学术追求自我追求的压力,其次是研究工作由单打独斗的模式转向团队合作,由被辅导转向辅导学生。

上述言论仅从个人经历出发,并不适用于所有人,只希望大家可以顶住压力坚持下去,或快或慢都是成长,科研和工作只是生活的一部分。

                           


SFFAI招募召集人!

Student Forums on Frontiers of Artificial Intelligence,简称SFFAI。

现代科学技术高度社会化,在科学理论与技术方法上更加趋向综合与统一,为了满足人工智能不同领域研究者相互交流、彼此启发的需求,我们发起了SFFAI这个公益活动。SFFAI每周举行一期线下活动,邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果,使专注于各个细分领域的研究者开拓视野、触类旁通。

SFFAI自2018年9月16日举办第一期线下交流,每周一期,风雨无阻,截至目前已举办18期线下交流活动,共有34位讲者分享了他们的真知灼见,来自100多家单位的同学参与了现场交流,通过线上推文、网络直播等形式,50000+人次参与了SFFAI的活动。SFFAI已经成为人工智能学生交流的第一品牌,有一群志同道合的研究生Core-Member伙伴,有一批乐于分享的SPEAKER伙伴,还有许多认可活动价值、多次报名参加现场交流的观众。


2019年春季学期开始,SFFAI会继续在每周日举行一期主题论坛,我们邀请你一起来组织SFFAI主题论坛加入SFFAI召集人团队。每个召集人负责1-2期SFFAI主题论坛的组织筹划,我们有一个SFFAI-CORE团队来支持你。一个人付出力所能及,创造一个一己之力不可及的自由丰盛。你带着你的思想,带着你的个性,来组织你感兴趣的SFFAI主题论坛。


当召集人有什么好处?

谁可以当召集人?

怎样才能成为召集人?

为什么要当召集

了解我们,加入我们,请点击下方海报!




点击下方图片,了解课程详情

历史文章推荐:

语音关键词检测方法综述【附PPT与视频资料】

脉冲神经网络与小样本学习【附PPT】

基于深度学习的人脑视觉神经信息编解码研究进展及挑战【附PPT】

使用RNN-Transducer进行语音识别建模【附PPT与视频资料】

基于姿态的人物视频生成【附PPT与视频资料】

阅读+验证:面向无答案问题的机器阅读理解【附PPT与视频资料】

上下文敏感的改写式回复生成模型【附PPT与视频资料】

基于人体骨架的行为识别【附PPT与视频资料】

基于深度学习的通用物体检测算法对比探索【附PPT与视频资料】



录播视频,请点击下方
阅读原文
观看
↓↓

若您觉得此篇推文不错,麻烦点点在看↓↓

登录查看更多
24

相关内容

语义分析的最终目的是理解句子表达的真实语义。但是,语义应该采用什么表示形式一直困扰着研究者们,至今这个问题也没有一个统一的答案。语义角色标注(semantic role labeling)是目前比较成熟的浅层语义分析技术。基于逻辑表达的语义分析也得到学术界的长期关注。
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
130+阅读 · 2020年7月10日
【DeepMind推荐】居家学习的人工智能干货资源大全集
专知会员服务
108+阅读 · 2020年6月27日
还在修改博士论文?这份《博士论文写作技巧》为你指南
少标签数据学习,54页ppt
专知会员服务
198+阅读 · 2020年5月22日
中科大-人工智能方向专业课程2020《脑与认知科学导论》
【CCL 2019】刘康、韩先培:做失败科研的10个方法
专知会员服务
27+阅读 · 2019年11月12日
周志华教授:如何做研究与写论文?
专知会员服务
154+阅读 · 2019年10月9日
SFFAI分享 | 常建龙:基于关系的深度学习【附PPT与视频资料】
人工智能前沿讲习班
6+阅读 · 2019年7月1日
SFFAI分享 | 连政:端到端语音合成【附PPT与视频资料】
人工智能前沿讲习班
14+阅读 · 2019年6月16日
SFFAI分享 | 黄健:语音情感识别【附PPT与视频资料】
人工智能前沿讲习班
30+阅读 · 2019年6月11日
SFFAI分享 | 张士峰:经验分享之我的科研历程【附PPT与视频资料】
人工智能前沿讲习班
85+阅读 · 2019年3月23日
SFFAI 19 报名通知 | 优秀博士经验分享会暨SFFAI 2018 SpeaKing颁奖典礼
人工智能前沿讲习班
13+阅读 · 2019年2月26日
基于视频的目标检测的发展【附PPT与视频资料】
人工智能前沿讲习班
19+阅读 · 2018年12月14日
视频中的多目标跟踪【附PPT与视频资料】
人工智能前沿讲习班
30+阅读 · 2018年11月29日
一文读懂神经网络(附PPT、视频)
数据派THU
17+阅读 · 2018年3月25日
Arxiv
26+阅读 · 2019年3月5日
Arxiv
6+阅读 · 2018年11月1日
Arxiv
5+阅读 · 2018年10月4日
Paraphrase Generation with Deep Reinforcement Learning
Arxiv
5+阅读 · 2018年4月13日
VIP会员
相关资讯
SFFAI分享 | 常建龙:基于关系的深度学习【附PPT与视频资料】
人工智能前沿讲习班
6+阅读 · 2019年7月1日
SFFAI分享 | 连政:端到端语音合成【附PPT与视频资料】
人工智能前沿讲习班
14+阅读 · 2019年6月16日
SFFAI分享 | 黄健:语音情感识别【附PPT与视频资料】
人工智能前沿讲习班
30+阅读 · 2019年6月11日
SFFAI分享 | 张士峰:经验分享之我的科研历程【附PPT与视频资料】
人工智能前沿讲习班
85+阅读 · 2019年3月23日
SFFAI 19 报名通知 | 优秀博士经验分享会暨SFFAI 2018 SpeaKing颁奖典礼
人工智能前沿讲习班
13+阅读 · 2019年2月26日
基于视频的目标检测的发展【附PPT与视频资料】
人工智能前沿讲习班
19+阅读 · 2018年12月14日
视频中的多目标跟踪【附PPT与视频资料】
人工智能前沿讲习班
30+阅读 · 2018年11月29日
一文读懂神经网络(附PPT、视频)
数据派THU
17+阅读 · 2018年3月25日
Top
微信扫码咨询专知VIP会员