回答大规模知识图谱上的复杂逻辑查询是一项基本而又具有挑战性的任务。在本文中,我将概述如何使用向量空间嵌入在知识图谱中执行逻辑推理。首先,我将讨论预测一对实体之间关系的知识图谱补全方法:通过捕获与实体相邻的关系类型来考虑每个实体的关系上下文,并通过一种新的基于边的消息传递方案进行建模;考虑关系路径捕获两个实体之间的所有路径;通过一种可学习的注意力机制,自适应地整合关系上下文和关系路径。其次,我们还将讨论QUERY2BOX,这是一个基于嵌入的框架,用于推理使用and、or和存在操作符进行的大量且不完整的KGs中的任意查询。

成为VIP会员查看完整内容
0
65

相关内容

主题: Low-Dimensional Hyperbolic Knowledge Graph Embeddings

摘要: 知识图谱(KG)嵌入学习实体和关系的低维表示,以预测缺失的内容。 KG通常表现出必须保留在嵌入空间中的分层和逻辑模式。对于分层数据,双曲线嵌入方法已显示出对高保真和简约表示的希望。但是,现有的双曲线嵌入方法无法解决KG中的丰富逻辑模式。在这项工作中,我们介绍了一类双曲KG嵌入模型,该模型同时捕获层次结构和逻辑模式。我们的方法将双曲线反射和旋转结合在一起,以注意对复杂的关系模式进行建模。在标准KG基准上的实验结果表明,我们的方法在较低维度上的平均倒数排名(MRR)比以前的基于欧几里德和双曲线的方法提高了6.1%。此外,我们观察到,不同的几何变换捕获不同类型的关系,而基于注意力的变换则泛化为多个关系。在高维度上,我们的方法在WN18RR上产生了49.6%的最新技术水平,在YAGO3-10上产生了57.7%的最新技术水平。

成为VIP会员查看完整内容
0
34

题目: Low-Dimensional Hyperbolic Knowledge Graph Embeddings

摘要: 知识图谱(KG)嵌入通过学习实体和关系的低维表示,以预测缺失事实。KGs通常具有层次结构和逻辑模式,必须在嵌入空间中保留这些模式。对于分层数据,双曲嵌入方法已显示出高保真度和简洁表示的优势。然而,现有的双曲嵌入方法不能解释KGs中丰富的逻辑模式。在本工作中,我们引入了一类双曲KG嵌入模型,可以同时捕获层次和逻辑模式。我们的方法结合双曲反射和旋转注意力模型复杂的关系模式。在标准KG基准上的实验结果表明,我们的方法在低维的平均倒数(MRR)方面比预先的欧几里得和双曲的工作提高了6.1%。此外,我们观察到不同的几何变换捕捉不同类型的关系,而基于注意的变换则推广到多重关系。在高维情况下,我们的方法在WN18RR和YAGO3-10上分别获得了49.6%和57.7%的最先进的MRR。

成为VIP会员查看完整内容
0
54

题目: Query2box: Reasoning over Knowledge Graphs in Vector Space Using Box Embeddings 在大规模的不完全知识图谱(KGs)上回答复杂的逻辑查询是一项基本而又具有挑战性的任务。最近,解决这个问题的一个很有前景的方法是将KG实体和查询嵌入到向量空间中,这样回答查询的实体就会被嵌入到查询附近。然而,以前的工作将查询建模为向量空间中的单点,这是有问题的,因为一个复杂的查询表示一个可能很大的答案实体集合,但是不清楚如何将这样的集合表示为单点。此外,以前的工作只能处理使用连词和存在量词的查询。使用逻辑分隔处理查询仍然是一个有待解决的问题。在这里,我们提出Query2box,这是一个基于嵌入的框架,用于在大量且不完整的KG中使用、和操作符对任意查询进行推理。,其中框内的一组点对应于查询的一组回答实体。我们证明了连词可以自然地表示为盒子的交叉点,同时也证明了一个否定的结果,即处理拆分需要嵌入的维度与KG实体的数量成比例。但是,通过将查询转换为析取范式,Query2box能够以一种可伸缩的方式处理带有、的任意逻辑查询。我们演示了query2box在两个大型KGs上的有效性,并表明Query2box实现了比现有技术高25%的改进。

成为VIP会员查看完整内容
0
29

知识图谱(KG)嵌入通过学习实体和关系的低维表示来预测缺失的事实。KGs通常表现出层次结构和逻辑模式,必须在嵌入空间中保留这些模式。对于层次数据,双曲线嵌入方法已经显示出高保真和精简表示的前景。然而,现有的双曲线嵌入方法并不能解释KGs中丰富的逻辑模式。在本文中,我们介绍了一类双曲线KG嵌入模型,该模型同时捕获层次模式和逻辑模式。我们的方法结合了双曲线反射和旋转,并注意到模型的复杂关系模式。在标准KG基准上的实验结果表明,我们的方法在低维平均倒数秩(MRR)方面比以前的基于欧几里德和双曲线的方法提高了6.1%。此外,我们观察到不同的几何变换捕获不同类型的关系,而基于注意的变换泛化为多个关系。在高维情况下,我们的方法可以得到最新的MRRs, WN18RR为49.6%,YAGO3-10为57.7%。

成为VIP会员查看完整内容
0
40

知识图谱补全的目的是预测知识图谱中实体之间的缺失关系。虽然已经提出了许多不同的方法,但缺乏一个统一的框架产生SOTA的结果。在这里,我们开发了PathCon,这是一种知识图谱补全方法,它利用四个新颖的见解来超越现有的方法。PathCon通过以下方法预测一对实体之间的关系: (1)通过捕获实体附近的关系类型,并通过基于边缘的消息传递模式建模,来考虑每个实体的关系上下文; (2)考虑获取两个实体之间所有路径的关系路径; (3)通过可学习的注意力机制,自适应地整合关系上下文和关系路径。重要的是,与传统的基于节点的表示不同,PathCon仅使用关系类型表示上下文和路径,这使得它适用于归纳设置。在知识图谱基准上的实验结果以及我们新提出的数据集表明,PathCon在很大程度上优于最先进的知识图谱补全方法。最后,PathCon能够通过识别对给定的预测关系很重要的上下文和路径关系来提供可解释的说明。

成为VIP会员查看完整内容
0
81

简介: 今年AAAI 2020接收了1591篇论文,其中有140篇是与图相关的。接下来将会介绍几篇与图和知识图谱相关的几篇论文。以下为内容大纲:

  • KG-Augmented Language Models In Diherent Flavours

Hayashi等人在知识图上建立了自然语言生成(NLG)任务的潜在关系语言模型(LRLM)。就是说,模型在每个时间步上要么从词汇表中提取一个单词,要么求助于已知关系。 最终的任务是在给定主题实体的情况下生成连贯且正确的文本。 LRLM利用基础图上的KG嵌入来获取实体和关系表示,以及用于嵌入表面形式的Fasttext。 最后,要参数化流程,需要一个序列模型。作者尝试使用LSTM和Transformer-XL来评估与使用Wikidata批注的Freebase和WikiText链接的WikiFacts上的LRLM。

Liu等人提出了K-BERT,它希望每个句子(如果可能)都用来自某些KG的命名实体和相关(谓词,宾语)对进行注释。 然后,将丰富的句子树线性化为一个新的位置相似嵌入,并用可见性矩阵进行遮罩,该矩阵控制输入的哪些部分在训练过程中可以看到并得到关注。

Bouraoui等人进一步评估了BERT的关系知识,即在给定一对实体(例如,巴黎,法国)的情况下,它是否可以预测正确的关系。 作者指出,BERT在事实和常识性任务中通常是好的,而不是糟糕的非词性任务,并且在形态任务中相当出色。

  • Entity Matching in Heterogeneous KGs

不同的KG具有自己的模型来建模其实体,以前,基于本体的对齐工具仅依靠此类映射来标识相似实体。 今天,我们有GNN只需少量培训即可自动学习此类映射!

Sun等人提出了AliNet,这是一种基于端到端GNN的体系结构,能够对多跳邻域进行聚合以实现实体对齐。 由于架构异质性,由于相似的实体KG的邻域不是同构的,因此任务变得更加复杂。 为了弥补这一点,作者建议关注节点的n跳环境以及具有特定损失函数的TransE样式关系模式。

Xu等人研究了多语言KG(在这种情况下为DBpedia)中的对齐问题,其中基于GNN的方法可能陷入“多对一”的情况,并为给定的目标实体生成多个候选源实体。 作者研究了如何使他们的预测中的GNN编码输出更加确定。

  • Knowledge Graph Completion and Link Prediction

AAAI’20标记并概述了两个增长趋势:神经符号计算与临时性的KG越来越受到关注。

  • KG-based Conversational AI andQuestion Answering

AAAI’20主持了“对话状态跟踪研讨会”(DSTC8)。 该活动聚集了对话AI方面的专家,包括来自Google Assistant,Amazon Alexa和DeepPavlov的人员。在研讨会上,多个专家都提出了对话AI的相关研究方法。

成为VIP会员查看完整内容
Knowledge Graphs @ AAAI 2020 - Michael Galkin - Medium.pdf
0
102

可解释性是当前AI研究的热点之一。伦敦大学学院Pasquale Minervini博士在可解释AI研讨会做了关于可解释高效可验证表示的报告《Back to Seminars Explainable, Verifiable, Relational Representation Learning from Knowledge Graphs》,共62页PPT,

可解释、数据有效、可验证的表示学习

知识图谱是图结构化的知识库,其中关于世界的知识以实体之间关系的形式进行编码。我们将讨论在大规模知识图谱使用神经链接预测缺失链接的工作,以及如何结合背景知识——形式的一阶逻辑规则或约束——神经链接预测,从更少的数据归纳和整合。最后,我们将讨论如何通过端到端可微推理器共同学习表示和规则。

成为VIP会员查看完整内容
0
100
小贴士
相关资讯
一文读懂图卷积GCN
计算机视觉life
16+阅读 · 2019年12月21日
【清华大学】元知识图谱推理
专知
106+阅读 · 2019年9月2日
ICLR 2019 | 基于复杂空间关系旋转的知识表示方法
论文浅尝 | 学习开发知识图谱中的长期关系依赖 - ICML 2019
学习开发知识图谱中的长期关系依赖
人工智能前沿讲习班
7+阅读 · 2019年6月10日
论文浅尝 | 基于深度序列模型的知识图谱补全
开放知识图谱
28+阅读 · 2019年5月19日
论文浅尝 | 变分知识图谱推理:在KG中引入变分推理框架
相关论文
Tuong Do,Thanh-Toan Do,Huy Tran,Erman Tjiputra,Quang D. Tran
4+阅读 · 2019年9月26日
Malte Ostendorff,Peter Bourgonje,Maria Berger,Julian Moreno-Schneider,Georg Rehm,Bela Gipp
5+阅读 · 2019年9月18日
Liang Yao,Chengsheng Mao,Yuan Luo
15+阅读 · 2019年9月7日
Structured Query Construction via Knowledge Graph Embedding
Ruijie Wang,Meng Wang,Jun Liu,Michael Cochez,Stefan Decker
6+阅读 · 2019年9月6日
Embedding Logical Queries on Knowledge Graphs
William L. Hamilton,Payal Bajaj,Marinka Zitnik,Dan Jurafsky,Jure Leskovec
3+阅读 · 2019年2月19日
Yanbin Liu,Juho Lee,Minseop Park,Saehoon Kim,Eunho Yang,Sungju Hwang,Yi Yang
20+阅读 · 2018年12月25日
Nikos Voskarides,Edgar Meij,Ridho Reinanda,Abhinav Khaitan,Miles Osborne,Giorgio Stefanoni,Prabhanjan Kambadur,Maarten de Rijke
3+阅读 · 2018年7月8日
Liwei Cai,William Yang Wang
6+阅读 · 2018年4月16日
Wenhu Chen,Wenhan Xiong,Xifeng Yan,William Wang
14+阅读 · 2018年4月5日
Top