State-of-the-art methods for Word Sense Disambiguation (WSD) combine two different features: the power of pre-trained language models and a propagation method to extend the coverage of such models. This propagation is needed as current sense-annotated corpora lack coverage of many instances in the underlying sense inventory (usually WordNet). At the same time, unambiguous words make for a large portion of all words in WordNet, while being poorly covered in existing sense-annotated corpora. In this paper, we propose a simple method to provide annotations for most unambiguous words in a large corpus. We introduce the UWA (Unambiguous Word Annotations) dataset and show how a state-of-the-art propagation-based model can use it to extend the coverage and quality of its word sense embeddings by a significant margin, improving on its original results on WSD.


翻译:Word Sense Dismendation (WSD) 的最新方法结合了两个不同的特征:预先训练的语言模型和传播方法对扩大这些模型覆盖面的影响力。 需要这种传播, 因为当前的感知附加说明公司在基本意义清单( 通常是WordNet)中缺乏对许多实例的涵盖范围。 同时, 毫不含糊的字词在WordNet中占据了全部词的很大一部分, 而在现有的感知附加说明公司中则没有很好覆盖。 在本文中, 我们提出了一个简单的方法, 为大体中最明确的单词提供说明。 我们引入了UWA( 模糊的Word 说明) 数据集, 并展示了一种最先进的基于传播的模型如何使用它来扩大其文字感知的覆盖面和质量, 大幅拉长, 改进了它关于 WSD 的原始结果 。

0
下载
关闭预览

相关内容

专知会员服务
123+阅读 · 2020年9月8日
Linux导论,Introduction to Linux,96页ppt
专知会员服务
77+阅读 · 2020年7月26日
临床自然语言处理中的嵌入综述,SECNLP: A survey of embeddings
已删除
将门创投
8+阅读 · 2019年8月28日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
【推荐】自然语言处理(NLP)指南
机器学习研究会
35+阅读 · 2017年11月17日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
3+阅读 · 2018年8月27日
Arxiv
6+阅读 · 2018年1月29日
VIP会员
相关资讯
已删除
将门创投
8+阅读 · 2019年8月28日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
【推荐】自然语言处理(NLP)指南
机器学习研究会
35+阅读 · 2017年11月17日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员