图结构的开发是有效学习保存有用信息的节点表示的关键。图的一个显著特性是,从全局的角度来看,存在一个潜在的节点层次分组,其中每个节点根据其相邻节点组成的上下文来表示其对特定组的隶属关系。在对邻域结构建模时,以往的研究大多忽略了这些潜在群体和节点对不同群体的隶属关系,更不用说层次结构了。因此,它们不能全面理解图中不同上下文下的节点。本文提出了一种新的层次注意力隶属度模型用于图嵌入,其中每个节点的潜在隶属度是根据其相邻上下文动态发现的。在聚合相邻状态生成节点嵌入时,需要同时进行群级和个体级的注意力。我们引入结构约束来显式规范每个节点的推断成员关系,这样就捕获了定义良好的分层分组结构。该模型在包括引文网络和社会网络在内的各种图的节点分类和链接预测任务上优于一组先进的图嵌入解决方案。定性评价将学习到的节点嵌入和推断出的成员关系可视化,证明了成员层次的概念,使图中可解释的嵌入学习成为可能。

成为VIP会员查看完整内容
35

相关内容

图嵌入模型综述
专知会员服务
81+阅读 · 2022年1月17日
西电TKDE 2021 | 可解释高效的异质图卷积神经网络
专知会员服务
25+阅读 · 2021年11月14日
CIKM2021 | 用于链接预测的主题感知异质图神经网络
专知会员服务
24+阅读 · 2021年11月3日
【WSDM2021】多交互注意力网络细粒度特征学习的CTR预测
专知会员服务
24+阅读 · 2020年12月27日
专知会员服务
25+阅读 · 2020年12月17日
[WSDM2021]用于边缘流异常检测的频率因子分解
专知会员服务
11+阅读 · 2020年11月24日
【WSDM2021】保存节点相似性的图卷积网络
专知会员服务
40+阅读 · 2020年11月22日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
图节点嵌入(Node Embeddings)概述,9页pdf
专知
13+阅读 · 2020年8月22日
ACL 2020 | 用于链接预测的开放知识图谱嵌入
PaperWeekly
6+阅读 · 2020年6月26日
图表示学习Graph Embedding综述
AINLP
32+阅读 · 2020年5月17日
WWW 2020 开源论文 | 异构图Transformer
PaperWeekly
13+阅读 · 2020年4月3日
论文浅尝 | 基于图卷积网络的跨语言图谱实体对齐
开放知识图谱
3+阅读 · 2020年3月2日
论文浅尝 | 基于属性嵌入的知识图谱实体对齐
开放知识图谱
8+阅读 · 2019年12月29日
图嵌入(Graph embedding)综述
人工智能前沿讲习班
449+阅读 · 2019年4月30日
Interest-aware Message-Passing GCN for Recommendation
Arxiv
11+阅读 · 2021年2月19日
Arxiv
7+阅读 · 2020年5月25日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
6+阅读 · 2019年11月14日
VIP会员
相关VIP内容
图嵌入模型综述
专知会员服务
81+阅读 · 2022年1月17日
西电TKDE 2021 | 可解释高效的异质图卷积神经网络
专知会员服务
25+阅读 · 2021年11月14日
CIKM2021 | 用于链接预测的主题感知异质图神经网络
专知会员服务
24+阅读 · 2021年11月3日
【WSDM2021】多交互注意力网络细粒度特征学习的CTR预测
专知会员服务
24+阅读 · 2020年12月27日
专知会员服务
25+阅读 · 2020年12月17日
[WSDM2021]用于边缘流异常检测的频率因子分解
专知会员服务
11+阅读 · 2020年11月24日
【WSDM2021】保存节点相似性的图卷积网络
专知会员服务
40+阅读 · 2020年11月22日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
相关资讯
图节点嵌入(Node Embeddings)概述,9页pdf
专知
13+阅读 · 2020年8月22日
ACL 2020 | 用于链接预测的开放知识图谱嵌入
PaperWeekly
6+阅读 · 2020年6月26日
图表示学习Graph Embedding综述
AINLP
32+阅读 · 2020年5月17日
WWW 2020 开源论文 | 异构图Transformer
PaperWeekly
13+阅读 · 2020年4月3日
论文浅尝 | 基于图卷积网络的跨语言图谱实体对齐
开放知识图谱
3+阅读 · 2020年3月2日
论文浅尝 | 基于属性嵌入的知识图谱实体对齐
开放知识图谱
8+阅读 · 2019年12月29日
图嵌入(Graph embedding)综述
人工智能前沿讲习班
449+阅读 · 2019年4月30日
微信扫码咨询专知VIP会员