直播 | EMNLP 2020论文解读:从上下文学习还是从实体名字学习?

2020 年 11 月 19 日 PaperWeekly


「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。

神经关系抽取旨在利用神经网络模型进行关系抽取。近年来,神经关系抽取已经在关系抽取任务上取得了 SOTA 的效果。神经关系抽取模型具有强大的编码能力和拟合能力, 能够自动抽取特征进行学习。但是目前还没有工作系统地分析过神经关系模型所依赖的特征对模型效果的影响。


本期 AI Drive,我们邀请到清华大学计算机系本科生彭皓,为大家解读其发表于 EMNLP 2020 的最新工作对本期主题感兴趣的小伙伴,11 月 19日(周四)晚 7 点,我们准时相约 PaperWeekly B 站直播间。


直播信息




本篇工作针对神经关系抽取的两个主要特征(上下文信息和实体信息)进行了分析。我们发现:1)上下文信息是神经关系抽取模型的主要信息来源,同时模型也存在对实体信息的过度依赖问题。而实体信息中大部分是实体类型信息;2)现有的数据集可能会通过实体泄露浅层的启发式信息,这可能也导致了一些关系抽取任务的效果虚高。

基于以上分析,我们提出了采用实体遮蔽的对比学习框架,旨在帮助模型更好的借助上下文信息和实体类型信息,同时避免因为仅仅记住简单的特征造成的模型偏差(bias)。该预训练框架提高了多个场景下神经关系抽取模型的有效性和鲁棒性。

论文标题:

Learning from Context or Names? An Empirical Study on Neural Relation Extraction



代码和数据:

https://github.com/thunlp/RE-Context-or-Names



论文链接:

https://arxiv.org/abs/2010.01923


本次分享首先将陈述关系抽取的背景,之后介绍我们的希望研究的问题以及我们的发现,最后介绍我们针对问题提出的新的基于对比学习的预训练模型。



嘉宾介绍



 彭皓 / 清华大学计算机系本科生 



彭皓,现清华大学计算机系本科四年级在读。 主要研究领域为关系抽取,知识图谱。以共同一作的身份发表 EMNLP 2020 顶级国际会议论文 1 篇。目前已经推研到李涓子老师实验室,未来在李涓子老师指导下攻读硕士,继续知识获取与表示相关的研究。


直播地址 & 交流群




本次直播将在 PaperWeekly B 站直播间进行,扫描下方海报二维码点击阅读原文即可免费观看。线上分享结束后,嘉宾还将在直播交流群内实时 QA,在 PaperWeekly 微信公众号后台回复「AI Drive」,即可获取入群通道


B 站直播间:

https://live.bilibili.com/14884511



合作伙伴







🔍


现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧



关于PaperWeekly


PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。



登录查看更多
2

相关内容

关系抽取指的是检测和识别文本中实体之间的语义关系,并将表示同一语义关系的提及(mention)链接起来的任务。关系提取任务需要在一组工件(通常来自文本或XML文档)中对语义关系提及进行检测和分类。该任务与信息抽取(IE)的任务非常相似,但是IE还需要删除重复关系(消除歧义),并且通常指的是提取许多不同的关系。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
AAAI2021 | 学习预训练图神经网络
专知会员服务
115+阅读 · 2021年1月28日
近期必读的六篇 EMNLP 2020【知识图谱】相关论文和代码
专知会员服务
41+阅读 · 2020年11月10日
近期必读的七篇NeurIPS 2020【对比学习】相关论文和代码
专知会员服务
65+阅读 · 2020年10月20日
【EMNLP2020-清华】基于常识知识图谱的多跳推理语言生成
专知会员服务
73+阅读 · 2020年9月25日
【斯坦福大学-论文】实体上下文关系路径的知识图谱补全
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
IJCAI2020论文:上下文在神经机器翻译中的充分利用
深度学习自然语言处理
5+阅读 · 2020年7月21日
AAAI 2020论文解读:关注实体以更好地理解文本
AI科技评论
17+阅读 · 2019年11月20日
Arxiv
1+阅读 · 2021年2月3日
Arxiv
5+阅读 · 2020年12月10日
Arxiv
6+阅读 · 2019年9月4日
Arxiv
3+阅读 · 2017年12月18日
VIP会员
相关VIP内容
AAAI2021 | 学习预训练图神经网络
专知会员服务
115+阅读 · 2021年1月28日
近期必读的六篇 EMNLP 2020【知识图谱】相关论文和代码
专知会员服务
41+阅读 · 2020年11月10日
近期必读的七篇NeurIPS 2020【对比学习】相关论文和代码
专知会员服务
65+阅读 · 2020年10月20日
【EMNLP2020-清华】基于常识知识图谱的多跳推理语言生成
专知会员服务
73+阅读 · 2020年9月25日
【斯坦福大学-论文】实体上下文关系路径的知识图谱补全
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
相关论文
Arxiv
1+阅读 · 2021年2月3日
Arxiv
5+阅读 · 2020年12月10日
Arxiv
6+阅读 · 2019年9月4日
Arxiv
3+阅读 · 2017年12月18日
Top
微信扫码咨询专知VIP会员