Machine Reading Comprehension (MRC) is an important topic in the domain of automated question answering and in natural language processing more generally. Since the release of the SQuAD 1.1 and SQuAD 2 datasets, progress in the field has been particularly significant, with current state-of-the-art models now exhibiting near-human performance at both answering well-posed questions and detecting questions which are unanswerable given a corresponding context. In this work, we present Enhanced Question Answer Network (EQuANt), an MRC model which extends the successful QANet architecture of Yu et al. to cope with unanswerable questions. By training and evaluating EQuANt on SQuAD 2, we show that it is indeed possible to extend QANet to the unanswerable domain. We achieve results which are close to 2 times better than our chosen baseline obtained by evaluating a lightweight version of the original QANet architecture on SQuAD 2. In addition, we report that the performance of EQuANt on SQuAD 1.1 after being trained on SQuAD2 exceeds that of our lightweight QANet architecture trained and evaluated on SQuAD 1.1, demonstrating the utility of multi-task learning in the MRC context.


翻译:自SQAD 1.1 和 SQAD 2 数据集发布以来,实地的进展特别显著,目前最先进的模型在回答问题和探测无法回答的问题方面都表现出接近人性的性性能,在相应的背景下,我们介绍了自动问答和更广义的自然语言处理领域的一个重要主题。在这项工作中,我们介绍了强化问答网络(EQuANt),这是一个MRC模型,它扩展了优等人成功的QANet结构,以应对无法回答的问题。通过培训和评估SQAD 2 上的 EQuAD 和 SQUAD 2 数据集,我们表明,将QANet推广到无法回答的领域是可能的。我们取得的成果比我们通过评估SQAD 2. 原始QANet结构的轻量版(EQuANt)要好2倍。此外,我们报告说,EQUANDt在接受SQUAD2 培训后,在SQUAD2 中演示了我们所培训的SQADA 的多功能性模型,在SQADA 中,我们所训练的SUADMQA QA 的光级基础学习结构的成绩超过了2 。

1
下载
关闭预览

相关内容

【ICLR 2019】双曲注意力网络,Hyperbolic  Attention Network
专知会员服务
82+阅读 · 2020年6月21日
专知会员服务
60+阅读 · 2020年3月19日
ExBert — 可视化分析Transformer学到的表示
专知会员服务
31+阅读 · 2019年10月16日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Capsule Networks解析
机器学习研究会
11+阅读 · 2017年11月12日
QuAC : Question Answering in Context
Arxiv
4+阅读 · 2018年8月21日
Arxiv
6+阅读 · 2018年4月21日
Arxiv
9+阅读 · 2016年10月27日
VIP会员
Top
微信扫码咨询专知VIP会员