基于外部因果陈述自监督表示学习的事件因果关系识别

Improving Event Causality Identification via Self-Supervised Representation Learning on External Causal Statement

论文链接: https://www.zhuanzhi.ai/paper/f2d21791440eef4f7550cb9045d0101d

利用外部大量的因果陈述,提升模型对因果关系语义的理解能力,这些因果陈述可以提供充足的上下文相关因果模式,有助于理解文本中事件的因果关系。然而,与ECI任务的标注数据不同,外部因果陈述中没有标注事件,模型很难直接从中学习上下文相关的因果模式帮助识别事件因果关系。为了解决这个问题,我们设计了一个基于自监督表示学习的事件因果关系识别模型 (Self-Supervised Representation Learning on External Causal Statement, CauSeRL),从外部因果陈述中学习强化的因果表示。具体来说,从外部因果陈述中迭代抽样两个实例,分别以其中一个因果陈述为目标,学习它们之间的共性。直觉上,通过自监督学习到的不同因果陈述间的共性反映了文本中上下文相关的因果模式,有助于在未见的实例中识别事件的因果关系。

在基准数据集上的实验结果表明,该方法可以有效增强事件因果关系的表示、提升事件因果关系识别的性能,证明了我们的方法对于ECI任务的有效性。

成为VIP会员查看完整内容
34

相关内容

自监督学习(self-supervised learning)可以被看作是机器学习的一种“理想状态”,模型直接从无标签数据中自行学习,无需标注数据。
专知会员服务
49+阅读 · 2021年8月13日
专知会员服务
20+阅读 · 2021年7月19日
专知会员服务
23+阅读 · 2021年6月19日
最新《自监督表示学习》报告,70页ppt
专知会员服务
85+阅读 · 2020年12月22日
【NeurIPS 2020】基于因果干预的小样本学习
专知会员服务
66+阅读 · 2020年10月6日
因果关联学习,Causal Relational Learning
专知会员服务
179+阅读 · 2020年4月21日
【ICML2021】因果匹配领域泛化
专知
10+阅读 · 2021年8月12日
基于深度元学习的因果推断新方法
图与推荐
10+阅读 · 2020年7月21日
AAAI 2020论文解读:关注实体以更好地理解文本
AI科技评论
17+阅读 · 2019年11月20日
赛尔原创 | EMNLP 2019 常识信息增强的事件表示学习
哈工大SCIR
28+阅读 · 2019年9月12日
论文浅尝 | 时序与因果关系联合推理
开放知识图谱
33+阅读 · 2019年6月23日
一文读懂因果推测、倾向模型(结合实例)
数据派THU
3+阅读 · 2018年3月26日
Arxiv
9+阅读 · 2021年2月25日
VIP会员
相关VIP内容
专知会员服务
49+阅读 · 2021年8月13日
专知会员服务
20+阅读 · 2021年7月19日
专知会员服务
23+阅读 · 2021年6月19日
最新《自监督表示学习》报告,70页ppt
专知会员服务
85+阅读 · 2020年12月22日
【NeurIPS 2020】基于因果干预的小样本学习
专知会员服务
66+阅读 · 2020年10月6日
因果关联学习,Causal Relational Learning
专知会员服务
179+阅读 · 2020年4月21日
微信扫码咨询专知VIP会员