题目: Integrating Deep Learning with Logic Fusion for Information Extraction

摘要:

信息抽取(Information extraction, IE)旨在从输入文本中产生结构化的信息,例如命名实体识别和关系抽取。通过特征工程或深度学习为IE提出了各种尝试。然而,他们中的大多数人并没有将任务本身所固有的复杂关系联系起来,而这一点已被证明是特别重要的。例如,两个实体之间的关系高度依赖于它们的实体类型。这些依赖关系可以看作是复杂的约束,可以有效地表示为逻辑规则。为了将这种逻辑推理能力与深度神经网络的学习能力相结合,我们提出将一阶逻辑形式的逻辑知识集成到深度学习系统中,以端到端方式联合训练。该集成框架通过逻辑规则对神经输出进行知识正则化增强,同时根据训练数据的特点更新逻辑规则的权值。我们证明了该模型在多个IE任务上的有效性和泛化性。

作者:

Sinno Jialin Pan是南洋理工大学计算机科学与工程学院院长兼副教授,研究方向是迁移学习、数据挖掘、人工智能、机器学习。

成为VIP会员查看完整内容
58
0

相关内容

实体(entity)是有可区别性且独立存在的某种事物,但它不需要是物质上的存在。尤其是抽象和法律拟制也通常被视为实体。实体可被看成是一包含有子集的集合。在哲学里,这种集合被称为客体。实体可被使用来指涉某个可能是人、动物、植物或真菌等不会思考的生命、无生命物体或信念等的事物。在这一方面,实体可以被视为一全包的词语。有时,实体被当做本质的广义,不论即指的是否为物质上的存在,如时常会指涉到的无物质形式的实体-语言。更有甚者,实体有时亦指存在或本质本身。在法律上,实体是指能具有权利和义务的事物。这通常是指法人,但也包括自然人。
338页新书《Deep Learning in Natural Language Processing》
机器学习算法与Python学习
6+阅读 · 2018年11月6日
论文浅尝 | Zero-Shot Transfer Learning for Event Extraction
开放知识图谱
24+阅读 · 2018年11月1日
读书报告 | Deep Learning for Extreme Multi-label Text Classification
科技创新与创业
48+阅读 · 2018年1月10日
论文浅尝 | Distant Supervision for Relation Extraction
开放知识图谱
4+阅读 · 2017年12月25日
【深度学习】给初学者的深度学习简介
产业智能官
6+阅读 · 2017年10月17日
【深度】可解释性与deep learning的发展
机器学习研究会
6+阅读 · 2017年10月15日
Arxiv
10+阅读 · 2019年11月14日
Arxiv
3+阅读 · 2019年3月1日
Arxiv
5+阅读 · 2018年4月22日
Arxiv
14+阅读 · 2018年2月7日
小贴士
相关VIP内容
相关资讯
338页新书《Deep Learning in Natural Language Processing》
机器学习算法与Python学习
6+阅读 · 2018年11月6日
论文浅尝 | Zero-Shot Transfer Learning for Event Extraction
开放知识图谱
24+阅读 · 2018年11月1日
读书报告 | Deep Learning for Extreme Multi-label Text Classification
科技创新与创业
48+阅读 · 2018年1月10日
论文浅尝 | Distant Supervision for Relation Extraction
开放知识图谱
4+阅读 · 2017年12月25日
【深度学习】给初学者的深度学习简介
产业智能官
6+阅读 · 2017年10月17日
【深度】可解释性与deep learning的发展
机器学习研究会
6+阅读 · 2017年10月15日
微信扫码咨询专知VIP会员