CCL 2021 讲习班暨中国中文信息学会《前沿技术讲习班》第25期(CIPS ATT25)

2021 年 5 月 15 日 哈工大SCIR

声明:本文转载自  中国中文信息学会 公众号


编者按:CCL 2021讲习班将于2021年8月13日在呼和浩特举行,报告包含预训练语言模型、动态神经网络、跨视觉语言模态的联合语义建模和推理情感分析与观点挖掘专题。


讲习班报告1





讲者:赵鑫

题目:大规模预训练语言模型研究进展回顾

时间:2021年8月13日09:00-10:30

摘要:大规模预训练语言模型已经成为当前自然语言处理领域最重要的研究方向之一,有效提升了多种NLP任务的最好效果。本次报告将对最近几年大规模预训练语言模型的研究进展进行简要梳理和回顾,主要报告内容集中在以下的几个方面。(一)模型架构:大规模预训练语言模型的主流架构和设计思路;(二)学习方法:大规模预训练语言模型的训练、学习以及优化策略;(三)使用范式:大规模预训练语言模型的通用任务解决方法以及微调模式;(四)相关应用:将选取若干基于大规模预训练语言模型的相关应用进行介绍。

简介:赵鑫,现为中国人民大学高瓴人工智能学院长聘副教授。2014年7月于北京大学获得博士学位,随后进入中国人民大学工作至今。研究领域为信息检索与自然语言处理,共计发表论文80余篇。荣获2020年吴文俊人工智能优秀青年奖、ECIR’21时间检验奖(Test of Time Award)等,入选中国科协青年人才托举工程、北京智源青年科学家。


讲习班报告2




讲者:黄高

题目:动态深度神经网络

时间:2021年8月13日10:30-12:00

摘要:深度神经网络在诸多领域得到了成功应用,但深度模型所需的巨大计算开销仍制了其可用性。本报告将介绍一类在推理过程中能够根据输入的变化改变自身结构的自适应神经网络模型。相较于当前主流的静态深度模型,动态网络能够针对输入的变化相应地调整自身的深度、宽度或者参数值等,实现计算量的“按需分配”,进而提升网络的效率,降低系统功耗。报告将介绍几类典型的样本自适应动态网络和时空自适应动态网络,并讨论现有方法的局限以及未来发展前景。

简介:黄高,清华大学自动化系助理教授,博士生导师。2015年获清华大学博士学位,2015年至2018年在美国康奈尔大学计算机系从事博士后科研工作。主要研究领域为深度学习和计算机视觉,提出了主流卷积网络模型DenseNet。目前在NeurIPS,ICML,CVPR等国际顶级会议及IEEE多个汇刊共计发表学术论文50余篇,被引20000余次。获CVPR最佳论文奖、达摩院青橙奖、世界人工智能大会SAIL先锋奖、中国自动化学会优秀博士学位论文、全国百篇最具影响国际学术论文、中国人工智能学会自然科学一等奖和吴文俊优秀青年奖等荣誉和基金委优秀青年基金资助。


讲习班报告3




讲者 :魏忠钰
题目:跨视觉语言模态的联合语义建模和推理
时间 :2021年8月13日14:00-15:30
摘要:跨视觉和语言模态的语义理解和生成是结合计算机视觉和自然语言处理的一个重要课题,有广阔的应用需求,包括图片检索,视力障碍人士的辅助工具以及低龄学童教育支持等。视觉和语言是我们感知外部环境的重要方式,某种程度上说,它们是同一个客观世界的两套表示方法,并且互有侧重。近年来,深度学习的发展为跨视觉和语言领域的研究提供了便利,也催生了很多跨模态任务,包括跨模态检索、推理、生成和视觉导航等。本次讲习班将梳理跨模态语义联合建模的前沿研究,以及相关方法在不同任务中的应用,并将重点放在跨模态推理的相关工作中。
简介:魏忠钰,复旦大学大数据学院副教授,博士生导师,复旦大学数据智能与社会计算实验室(Fudan-DISC)负责人,自然语言处理实验室(Fudan-NLP)团队成员,现任中文信息学会情感计算专委会(筹)副秘书长,社交媒体处理专委会常务委员兼秘书,青年工作委员会执行委员。主要研究领域为自然语言处理,机器学习和社会媒体处理,专注于结合语言和视觉的多模态信息理解与生成、论辩挖掘和交叉学科应用研究。在相关领域的国际会议、期刊如CL,ACL,SIGIR,EMNLP,ICML,ICLR,AAAI,IJCAI,Bioinformatics等发表学术论文70余篇。担任多个重要国际会议及期刊评审,是EMNLP 2020 的跨模态领域主席。获得2017年度上海市青年扬帆计划,2019年度中国中文信息学会社会媒体处理新锐奖,2020年华为公司优秀成果奖。

讲习班报告4




讲者:夏睿

题目:情感分析与观点挖掘:回顾与展望

时间:2021年8月13日15:30-17:00

摘要:报告分为三个部分。第一部分:回顾情感分析和观点挖掘领域的研究历史,从任务类型、分析粒度两个角度,介绍文档、句子、词语、属性级情感分析中的代表任务和经典方法;第二部分:探讨情感分析和观点挖掘研究中的两个特殊问题:情感极性转移和领域适应。分析这两方面问题的意义、研究进展、代表性方法;第三部分:交流近几年情感分析和观点挖掘领域的研究热点,以情绪分析与原因抽取、细粒度多要素观点抽取为例,介绍其与传统任务的区别和最新的研究成果,并对未来工作方向进行展望。

简介:夏睿,南京理工大学计算机学院教授、博导。研究领域为自然语言处理、情感分析与观点挖掘。在自然语言处理、人工智能、数据挖掘领域的国内外重要期刊和会议发表论文50余篇、出版学术专著2部,曾获国际计算语言学协会年会ACL2019杰出论文奖、中国中文信息学会青年创新奖一等奖等荣誉。


本期责任编辑:丁   效
本期编辑:冯   晨


哈工大SCIR公众号
主编:张伟男
副主编:丁效,刘铭,冯骁骋,赵森栋
执行编辑:杜佳琪
编辑: 钟蔚弘,彭湃,朱文轩,冯晨,牟虹霖,张馨,王若珂,高建男

长按下图即可关注哈尔滨工业大学社会计算与信息检索研究中心微信公众号 哈工大SCIR
登录查看更多
0

相关内容

近年来,预训练模型(例如ELMo、GPT、BERT和XLNet等)的快速发展大幅提升了诸多NLP任务的整体水平,同时也使得很多应用场景进入到实际落地阶段。预训练语言模型本身就是神经网络语言模型,它的特点包括:第一,可以使用大规模无标注纯文本语料进行训练;第二,可以用于各类下游NLP任务,不是针对某项定制的,但以后可用在下游NIP任务上,你不需要为下游任务专门设计一种神经网络,或者提供一种结构,直接在几种给定的固定框架中选择一种进行 fine-tune,就可以从而得到很好的结果。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【CCL 2019】2019信息检索趋势,山东大学教授任昭春博士
专知会员服务
29+阅读 · 2019年11月12日
【CCL 2019】ATT-第19期:生成对抗网络 (邱锡鹏)
专知会员服务
49+阅读 · 2019年11月12日
【动态】首届可视化国际青年学生学者论坛成功举办
中国图象图形学学会CSIG
0+阅读 · 2022年1月4日
SMP 2021 前沿讲习班
哈工大SCIR
0+阅读 · 2021年7月12日
【ASSIA】第12期智能自动化学科前沿讲习班——推荐系统
中国自动化学会
12+阅读 · 2019年10月11日
国家自然科学基金
3+阅读 · 2018年6月30日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年9月30日
国家自然科学基金
0+阅读 · 2012年8月29日
国家自然科学基金
0+阅读 · 2012年4月30日
国家自然科学基金
5+阅读 · 2008年12月31日
Arxiv
13+阅读 · 2022年1月20日
已删除
Arxiv
32+阅读 · 2020年3月23日
Arxiv
12+阅读 · 2019年3月14日
VIP会员
相关VIP内容
【CCL 2019】2019信息检索趋势,山东大学教授任昭春博士
专知会员服务
29+阅读 · 2019年11月12日
【CCL 2019】ATT-第19期:生成对抗网络 (邱锡鹏)
专知会员服务
49+阅读 · 2019年11月12日
相关基金
国家自然科学基金
3+阅读 · 2018年6月30日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年9月30日
国家自然科学基金
0+阅读 · 2012年8月29日
国家自然科学基金
0+阅读 · 2012年4月30日
国家自然科学基金
5+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员