We investigate a lattice-structured LSTM model for Chinese NER, which encodes a sequence of input characters as well as all potential words that match a lexicon. Compared with character-based methods, our model explicitly leverages word and word sequence information. Compared with word-based methods, lattice LSTM does not suffer from segmentation errors. Gated recurrent cells allow our model to choose the most relevant characters and words from a sentence for better NER results. Experiments on various datasets show that lattice LSTM outperforms both word-based and character-based LSTM baselines, achieving the best results.


翻译:我们为中国 NER 调查一个由 lattice 结构的 LSTM 模型, 该模型将输入字符序列和所有与词汇匹配的潜在单词编码。 与基于字符的方法相比, 我们的模型明确利用了单词和单词序列信息。 与基于字的方法相比, lattice LSTM 不遭受分解错误的影响 。 Gated 重复单元格允许我们的模型从句子中选择最相关的字符和单词, 以取得更好的 NER 结果 。 对各种数据集的实验显示, lattice LSTM 测试显示, lattice LSTM 超越了基于字和基于字符的 LSTM 基线, 取得了最佳结果 。

5
下载
关闭预览

相关内容

长短期记忆网络(LSTM)是一种用于深度学习领域的人工回归神经网络(RNN)结构。与标准的前馈神经网络不同,LSTM具有反馈连接。它不仅可以处理单个数据点(如图像),还可以处理整个数据序列(如语音或视频)。例如,LSTM适用于未分段、连接的手写识别、语音识别、网络流量或IDSs(入侵检测系统)中的异常检测等任务。
专知会员服务
51+阅读 · 2020年3月19日
【强化学习资源集合】Awesome Reinforcement Learning
专知会员服务
70+阅读 · 2019年12月23日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
37+阅读 · 2019年10月17日
[综述]深度学习下的场景文本检测与识别
专知会员服务
59+阅读 · 2019年10月10日
Hierarchically Structured Meta-learning
CreateAMind
14+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
12+阅读 · 2019年5月18日
基于Lattice LSTM的命名实体识别
微信AI
47+阅读 · 2018年10月19日
基于 Keras 用 LSTM 网络做时间序列预测
R语言中文社区
19+阅读 · 2018年8月6日
ACL 2018 | 利用Lattice LSTM的最优中文命名实体识别方法
黑龙江大学自然语言处理实验室
7+阅读 · 2018年7月3日
条件GAN重大改进!cGANs with Projection Discriminator
CreateAMind
8+阅读 · 2018年2月7日
【推荐】用Tensorflow理解LSTM
机器学习研究会
36+阅读 · 2017年9月11日
Arxiv
11+阅读 · 2019年6月19日
Arxiv
7+阅读 · 2018年1月30日
VIP会员
Top
微信扫码咨询专知VIP会员