This paper compares BERT-SQuAD and Ab3P on the Abbreviation Definition Identification (ADI) task. ADI inputs a text and outputs short forms (abbreviations/acronyms) and long forms (expansions). BERT with reranking improves over BERT without reranking but fails to reach the Ab3P rule-based baseline. What is BERT missing? Reranking introduces two new features: charmatch and freq. The first feature identifies opportunities to take advantage of character constraints in acronyms and the second feature identifies opportunities to take advantage of frequency constraints across documents.


翻译:本文件比较了BERT-SQuAD和AB3P关于缩略定义识别(ADI)的任务,ADI输入了文本和产出短格式(缩略语/缩略语)和长格式(缩略语)和长格式(缩略语)。BERT的重新排序比BERT改进了,没有重新排行,但没有达到AB3P规则基准。BERT缺少什么?重新排序引入了两个新特征:Crappatch和freq。第一个特征确定了利用缩略语字符限制的机会,第二个特征确定了利用不同文件频度限制的机会。

1
下载
关闭预览

相关内容

专知会员服务
55+阅读 · 2020年9月7日
机器学习入门的经验与建议
专知会员服务
94+阅读 · 2019年10月10日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
53+阅读 · 2019年9月29日
RoBERTa中文预训练模型:RoBERTa for Chinese
PaperWeekly
57+阅读 · 2019年9月16日
三分钟带你读懂 BERT
AI研习社
3+阅读 · 2019年3月20日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
7+阅读 · 2020年3月1日
Arxiv
3+阅读 · 2019年11月28日
Arxiv
6+阅读 · 2019年9月4日
VIP会员
相关VIP内容
专知会员服务
55+阅读 · 2020年9月7日
机器学习入门的经验与建议
专知会员服务
94+阅读 · 2019年10月10日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
53+阅读 · 2019年9月29日
相关资讯
相关论文
Arxiv
7+阅读 · 2020年3月1日
Arxiv
3+阅读 · 2019年11月28日
Arxiv
6+阅读 · 2019年9月4日
Top
微信扫码咨询专知VIP会员