【上海交大】机器阅读理解上下文语言模型综述论文,附电子书与Slides

2021 年 4 月 17 日 专知


机器阅读理解(MRC)旨在教会机器阅读和理解人类语言,这是自然语言处理(NLP)的长期目标。随着深度神经网络的爆发和上下文语言模型(CLMs)的发展,MRC的研究经历了两个重大突破。MRC和CLM作为一种现象,对NLP社区产生了巨大的影响。本文从以下几个方面对MRC进行了全面的比较研究:1)MRC和CLM的起源和发展,特别是CLM的作用;2) MRC和CLM对NLP社区的影响;3) MRC的定义、数据集和评价;(4)基于人类认知过程视角的两阶段译码解算体系结构视角下的通用MRC体系结构与技术方法;5)以往研究的亮点、新出现的课题以及我们的实证分析,其中我们特别关注了在MRC研究的不同时期的作用。针对这些主题,我们提出了一个全视图分类和新的分类法。我们的主要观点是:1)MRC促进了从语言处理到理解的进程;2) MRC系统的快速改进得益于CLMs的发展;3) MRC的主题逐渐从浅层的文本匹配转向认知推理。


https://www.zhuanzhi.ai/paper/4a9e5f961d514baf95a9ab3cae550262




专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“MRC” 可以获取《【上海交大】机器阅读理解上下文语言模型综述论文,附电子书与Slides》专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
3

相关内容

【CMU博士论文】可控文本生成,附107页pdf与Slides
专知会员服务
55+阅读 · 2021年4月21日
最新「注意力机制」大综述论文,66页pdf569篇文献
专知会员服务
201+阅读 · 2021年4月2日
最新《深度学习理论》笔记,68页pdf
专知会员服务
48+阅读 · 2021年2月14日
专知会员服务
31+阅读 · 2020年12月23日
专知会员服务
307+阅读 · 2020年11月24日
最新《知识驱动的文本生成》综述论文,44页pdf
专知会员服务
74+阅读 · 2020年10月13日
最新《图理论》笔记书,98页pdf
专知
50+阅读 · 2020年12月27日
【中科院】命名实体识别技术综述
专知
16+阅读 · 2020年4月21日
零样本图像识别综述论文
专知
20+阅读 · 2020年4月4日
基于深度学习的文本生成【附217页PPT下载】
专知
35+阅读 · 2018年11月24日
Arxiv
18+阅读 · 2020年10月9日
Arxiv
23+阅读 · 2020年9月16日
CoQA: A Conversational Question Answering Challenge
Arxiv
7+阅读 · 2018年8月21日
QuAC : Question Answering in Context
Arxiv
4+阅读 · 2018年8月21日
VIP会员
相关VIP内容
【CMU博士论文】可控文本生成,附107页pdf与Slides
专知会员服务
55+阅读 · 2021年4月21日
最新「注意力机制」大综述论文,66页pdf569篇文献
专知会员服务
201+阅读 · 2021年4月2日
最新《深度学习理论》笔记,68页pdf
专知会员服务
48+阅读 · 2021年2月14日
专知会员服务
31+阅读 · 2020年12月23日
专知会员服务
307+阅读 · 2020年11月24日
最新《知识驱动的文本生成》综述论文,44页pdf
专知会员服务
74+阅读 · 2020年10月13日
相关资讯
Top
微信扫码咨询专知VIP会员