信息检索是搜索引擎、对话系统以及开放域问答等自然语言处理任务的重要组成部分。IR在生物医学领域发挥着重要的作用,在生物医学领域,科学知识的内容和来源可能会迅速发展。尽管神经检索在标准的开放域问答任务中已经超越了传统的IR方法,如TF-IDF和BM25,但在生物医学领域仍存在不足。在本论文中,我们试图利用神经检索器(NR)改善生物医学领域的信息检索(IR),并采用三管齐下的方法来实现这一目标。首先,为了解决生物医学领域数据相对匮乏的问题,我们提出了一种基于模板的问题生成方法,可用于训练神经检索模型。其次,我们开发了两个与下游信息检索任务紧密相关的新训练前任务。第三,我们引入了“Poly-DPR”模型,它将每个上下文编码成多个上下文向量。关于BioASQ挑战的大量实验和分析表明,我们提出的方法比现有的神经方法获得了很大的收益,并在小语料库环境中击败了BM25。我们证明了BM25和我们的方法可以相互补充,一个简单的混合模型可以在大型语料库设置中获得进一步的收益。

https://www.zhuanzhi.ai/paper/15fa11615c0f9c05569c72cc43df7589

成为VIP会员查看完整内容
16

相关内容

信息检索( Information Retrieval )指信息按一定的方式组织起来,并根据信息用户的需要找出有关的信息的过程和技术。信息检索的目标:准确、及时、全面的获取所需信息。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【AAAI2022】基于对比学习的预训练语言模型剪枝压缩
专知会员服务
27+阅读 · 2022年1月24日
【AAAI2022】上下文感知的词语替换与文本溯源
专知会员服务
17+阅读 · 2022年1月23日
【AAAI2022】用于视觉常识推理的场景图增强图像-文本学习
专知会员服务
48+阅读 · 2021年12月20日
【AAAI2022】利用化学元素知识图谱进行分子对比学习
专知会员服务
27+阅读 · 2021年12月3日
【CIKM2021】用领域知识增强预训练语言模型的问题回答
专知会员服务
16+阅读 · 2021年11月18日
【NAACL2021】长序列自然语言处理, 250页ppt
专知会员服务
61+阅读 · 2021年6月7日
【AAAI2021】预训练语言模型最新进展,附113页ppt和视频
专知会员服务
64+阅读 · 2021年2月23日
专知会员服务
44+阅读 · 2021年1月31日
【AAAI2021】知识图谱增强的预训练模型的生成式常识推理
专知会员服务
44+阅读 · 2020年12月20日
NAACL 2019自然语言处理亮点
专知
15+阅读 · 2019年6月15日
自然语言处理常识推理综述论文,60页pdf
专知
69+阅读 · 2019年4月4日
300页文本知识提取与推断最新教程
机器学习算法与Python学习
13+阅读 · 2018年8月28日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
3+阅读 · 2008年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
VIP会员
相关VIP内容
【AAAI2022】基于对比学习的预训练语言模型剪枝压缩
专知会员服务
27+阅读 · 2022年1月24日
【AAAI2022】上下文感知的词语替换与文本溯源
专知会员服务
17+阅读 · 2022年1月23日
【AAAI2022】用于视觉常识推理的场景图增强图像-文本学习
专知会员服务
48+阅读 · 2021年12月20日
【AAAI2022】利用化学元素知识图谱进行分子对比学习
专知会员服务
27+阅读 · 2021年12月3日
【CIKM2021】用领域知识增强预训练语言模型的问题回答
专知会员服务
16+阅读 · 2021年11月18日
【NAACL2021】长序列自然语言处理, 250页ppt
专知会员服务
61+阅读 · 2021年6月7日
【AAAI2021】预训练语言模型最新进展,附113页ppt和视频
专知会员服务
64+阅读 · 2021年2月23日
专知会员服务
44+阅读 · 2021年1月31日
【AAAI2021】知识图谱增强的预训练模型的生成式常识推理
专知会员服务
44+阅读 · 2020年12月20日
相关基金
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
3+阅读 · 2008年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员