论文浅尝 | 一种基于递归超图的知识图谱问答方法

2021 年 9 月 15 日 开放知识图谱

笔记整理 | 谭亦鸣,东南大学博士生



来源:EACL’21

链接:https://www.aclweb.org/anthology/2021.eacl-main.35.pdf

概述与动机

本文提出了一种基于递归超图的知识图谱问答方法RecHyperNet,作者认为人回答问题时倾向于在推理过程中递归地对获取的不同知识(object)随时进行归类(grouping),而超图(hypergraph)则可以作为一个关系归类建模的工具。在现有的问答方法里,对于给定知识库的递归关系归类并没有被明确的作为问答过程的一环,因此为了验证这种贴近于人类思维的方式是否能够为自动问答带来收益,作者提出了上述方法(Recursive Hypergraph Network),并在MateQA和WebQuestionSP的两个数据集上验证了该方法的有效性。

超图的定义

作者通过以下两个定义描述超图:

首先,作者定义了   深幂集:对于一个集合   ,它的初始幂集为   ,其幂集迭代   次(幂集的幂集...   次)为   

接着是对   -迭代超图的定义,即超图H包含V(节点集合)以及E(迭代的超边集合),超边可以理解为由超图中的幂集的节点所定义的边。(其实我对超图和超边也不是很了解,这里引用一下他人的理解[1]

在图结构上,一般的边由两个节点所定义,而超边则可以由三个或更多的节点所定义,例如下图就是一个每条边包含三个节点的三阶超图:

通过对获取图谱中的幂集,形成超边,作者可以将图谱中经过相同头实体和关系的尾实体表示在一条超边上,反之亦然,也就形成了grouping的效果,我是这样理解的。

实际效果上,作者举了个例子:

存在以下三元组:

盗梦空间,明星,Leonardo

盗梦空间,明星,Ellen

盗梦空间,明星,Tom

对应的超边:

(盗梦空间,明星),(Leonardo,Ellen,Tom)

方法

基于超图,作者提出了RecHyperNet模型,包含三个主要部分:

1.KB embedding:

对图谱实体的初始化表示学习,这里直接是使用了TransE和ComplEX

2.Topic and Question embedding

通过使用LSTM/RoBERTa对问题进行表示学习,问题中的Topic实体则使用了一个在KB上的multi-relational 图卷积网络CompGCN来表示,该模型中,实体的更新通过以下公式2实现:

其中,N(v)表示实体v的一跳邻居(的关系和尾实体pair),f是个非线性激活函数ReLU,x与z分别表示实体和关系的初始特征向量。

这里作者的关键性改进就是将激活函数f中的一阶实体关系特征改变为超边特征,即将一条边一个一跳邻居的模式变为一堆具有同头实体与关系的三元组构成的(最大)超边。

3.Answer select

给定一个KB embedding打分函数以及一组候选答案,使用该函数对答案与问题及主题的相关性做量化评价:

实验与结果

截至目前,该结果已经不是MateQA和WebQSP上的sota,但是其结果体现出了hypergraph这一新的特征表示形式所带来的收益,这一点则相对更有价值。

References

[1] 他人的理解: https://blog.csdn.net/m0_37683327/article/details/91048782

 


 

OpenKG


OpenKG(中文开放知识图谱)旨在推动以中文为核心的知识图谱数据的开放、互联及众包,并促进知识图谱算法、工具及平台的开源开放。

点击阅读原文,进入 OpenKG 网站。

登录查看更多
1

相关内容

专知会员服务
36+阅读 · 2021年4月25日
【斯坦福大学-论文】实体上下文关系路径的知识图谱补全
【AAAI2020知识图谱论文概述】Knowledge Graphs @ AAAI 2020
专知会员服务
132+阅读 · 2020年2月13日
ACL 2019开源论文 | 基于Attention的知识图谱关系预测
论文浅尝 | 基于知识库的神经网络问题生成方法
开放知识图谱
19+阅读 · 2019年6月21日
论文浅尝 | 面向知识图谱补全的共享嵌入神经网络模型
开放知识图谱
31+阅读 · 2019年4月7日
论文浅尝 | 基于属性嵌入的知识图谱间实体对齐方法
开放知识图谱
30+阅读 · 2019年3月26日
论文浅尝 | 基于开放世界的知识图谱补全
开放知识图谱
11+阅读 · 2018年7月3日
论文浅尝 | 基于神经网络的知识推理
开放知识图谱
14+阅读 · 2018年3月12日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
26+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2010年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年4月17日
Directional Graph Networks
Arxiv
27+阅读 · 2020年12月10日
Arxiv
20+阅读 · 2019年9月7日
Arxiv
26+阅读 · 2018年9月21日
VIP会员
相关资讯
ACL 2019开源论文 | 基于Attention的知识图谱关系预测
论文浅尝 | 基于知识库的神经网络问题生成方法
开放知识图谱
19+阅读 · 2019年6月21日
论文浅尝 | 面向知识图谱补全的共享嵌入神经网络模型
开放知识图谱
31+阅读 · 2019年4月7日
论文浅尝 | 基于属性嵌入的知识图谱间实体对齐方法
开放知识图谱
30+阅读 · 2019年3月26日
论文浅尝 | 基于开放世界的知识图谱补全
开放知识图谱
11+阅读 · 2018年7月3日
论文浅尝 | 基于神经网络的知识推理
开放知识图谱
14+阅读 · 2018年3月12日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
26+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2010年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员