题目: TENER: Adapting Transformer Encoder for Named Entity Recognition

摘要:

双向长短时记忆网络(BiLSTM)在解决命名实体识别(NER)任务的模型编码中得到了广泛的应用。近年来,转换器以其并行性和优越的性能被广泛应用于各种自然语言处理(NLP)任务中。然而,在NER中变压器的性能不如在其它NLP任务中。在本文中,我们提出了一种采用自适应变压器编码器对字符级特征和字级特征进行建模的NER结构TENER。通过结合方向感知、相对距离感知和非尺度感知,证明了该编码器与其它NLP任务一样有效。

作者:

邱锡鹏,复旦大学计算机科学技术学院副教授,博士生导师。于复旦大学获得理学学士和博士学位。主要从事自然语言处理、深度学习等方向的研究,在ACL、EMNLP、AAAI、IJCAI等计算机学会A/B类期刊、会议上发表50余篇学术论文,引用 1900余次。开源中文自然语言处理工具FudanNLP作者,FastNLP项目负责人。2015年入选首届中国科协人才托举工程,2017年ACL杰出论文奖,2018年获中国中文信息学会“钱伟长中文信息处理科学技术奖—汉王青年创新奖”。

成为VIP会员查看完整内容
51

相关内容

A/D或D/A转换器:将模拟信号转换成数字信号,或将数字信号转换成模拟信号。 模拟信号是连续变化的电压或电流, 对应的数字信号是数字流,表示模拟信号在某一瞬间的幅度。
Ref: Glossary Definition for 数据转换器
【CCL 2019】ATT-第19期:生成对抗网络 (邱锡鹏)
专知会员服务
48+阅读 · 2019年11月12日
命名实体识别新SOTA:改进Transformer模型
AI科技评论
17+阅读 · 2019年11月26日
AAAI 2020论文解读:关注实体以更好地理解文本
AI科技评论
17+阅读 · 2019年11月20日
【北大】知识图谱的关键技术及其智能应用
专知
111+阅读 · 2019年9月19日
一文读懂命名实体识别
人工智能头条
32+阅读 · 2019年3月29日
卷积自适应降噪自动编码器
FCS
8+阅读 · 2019年1月3日
笔记 | Deep active learning for named entity recognition
黑龙江大学自然语言处理实验室
24+阅读 · 2018年5月27日
神经网络结构在命名实体识别(NER)中的应用
全球人工智能
11+阅读 · 2018年4月5日
Multi-Grained Named Entity Recognition
Arxiv
6+阅读 · 2019年6月20日
Arxiv
14+阅读 · 2018年5月15日
Arxiv
15+阅读 · 2018年2月4日
VIP会员
相关VIP内容
【CCL 2019】ATT-第19期:生成对抗网络 (邱锡鹏)
专知会员服务
48+阅读 · 2019年11月12日
相关资讯
命名实体识别新SOTA:改进Transformer模型
AI科技评论
17+阅读 · 2019年11月26日
AAAI 2020论文解读:关注实体以更好地理解文本
AI科技评论
17+阅读 · 2019年11月20日
【北大】知识图谱的关键技术及其智能应用
专知
111+阅读 · 2019年9月19日
一文读懂命名实体识别
人工智能头条
32+阅读 · 2019年3月29日
卷积自适应降噪自动编码器
FCS
8+阅读 · 2019年1月3日
笔记 | Deep active learning for named entity recognition
黑龙江大学自然语言处理实验室
24+阅读 · 2018年5月27日
神经网络结构在命名实体识别(NER)中的应用
全球人工智能
11+阅读 · 2018年4月5日
微信扫码咨询专知VIP会员