【WSDM2022】具有分层注意力的图嵌入

2021 年 11 月 17 日 专知


图结构的开发是有效学习保存有用信息的节点表示的关键。图的一个显著特性是,从全局的角度来看,存在一个潜在的节点层次分组,其中每个节点根据其相邻节点组成的上下文来表示其对特定组的隶属关系。在对邻域结构建模时,以往的研究大多忽略了这些潜在群体和节点对不同群体的隶属关系,更不用说层次结构了。因此,它们不能全面理解图中不同上下文下的节点。本文提出了一种新的层次注意力隶属度模型用于图嵌入,其中每个节点的潜在隶属度是根据其相邻上下文动态发现的。在聚合相邻状态生成节点嵌入时,需要同时进行群级和个体级的注意力。我们引入结构约束来显式规范每个节点的推断成员关系,这样就捕获了定义良好的分层分组结构。该模型在包括引文网络和社会网络在内的各种图的节点分类和链接预测任务上优于一组先进的图嵌入解决方案。定性评价将学习到的节点嵌入和推断出的成员关系可视化,证明了成员层次的概念,使图中可解释的嵌入学习成为可能。


https://www.zhuanzhi.ai/paper/b5f38dadd4dc88b2ce912c0e00c5c17b



专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“GEHA” 就可以获取【WSDM2022】具有分层注意力的图嵌入》专知下载链接

专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!


欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

CIKM2021 | 用于链接预测的主题感知异质图神经网络
专知会员服务
24+阅读 · 2021年11月3日
专知会员服务
39+阅读 · 2021年4月5日
【WSDM2021】注意力流:时间序列网络中的可视化影响力
专知会员服务
22+阅读 · 2021年2月20日
【WWW2021】自监督学习上下文嵌入的异构网络链接预测
专知会员服务
39+阅读 · 2021年2月10日
【WSDM2021】多交互注意力网络细粒度特征学习的CTR预测
专知会员服务
24+阅读 · 2020年12月27日
【WSDM2021】保存节点相似性的图卷积网络
专知会员服务
40+阅读 · 2020年11月22日
【WSDM2021】拓扑去噪的鲁棒图神经网络
专知会员服务
26+阅读 · 2020年11月14日
【元图(Meta-Graph):元学习小样本连接预测】
专知会员服务
62+阅读 · 2020年5月31日
注意力图神经网络的多标签文本分类
专知会员服务
111+阅读 · 2020年3月28日
【CVPR2022】视频对比学习的概率表示
专知
1+阅读 · 2022年4月12日
【WSDM2022】具有分层注意力的表示学习
图与推荐
1+阅读 · 2021年11月17日
【WWW2021】高效的非抽样知识图谱嵌入
专知
0+阅读 · 2021年4月25日
【WWW2021】自监督多通道超图卷积网络
专知
3+阅读 · 2021年4月5日
最新《图嵌入组合优化》综述论文,40页pdf
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
Knowledge Embedding Based Graph Convolutional Network
Arxiv
24+阅读 · 2021年4月23日
CSKG: The CommonSense Knowledge Graph
Arxiv
18+阅读 · 2020年12月21日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Efficiently Embedding Dynamic Knowledge Graphs
Arxiv
14+阅读 · 2019年10月15日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
Arxiv
15+阅读 · 2019年4月4日
VIP会员
相关VIP内容
CIKM2021 | 用于链接预测的主题感知异质图神经网络
专知会员服务
24+阅读 · 2021年11月3日
专知会员服务
39+阅读 · 2021年4月5日
【WSDM2021】注意力流:时间序列网络中的可视化影响力
专知会员服务
22+阅读 · 2021年2月20日
【WWW2021】自监督学习上下文嵌入的异构网络链接预测
专知会员服务
39+阅读 · 2021年2月10日
【WSDM2021】多交互注意力网络细粒度特征学习的CTR预测
专知会员服务
24+阅读 · 2020年12月27日
【WSDM2021】保存节点相似性的图卷积网络
专知会员服务
40+阅读 · 2020年11月22日
【WSDM2021】拓扑去噪的鲁棒图神经网络
专知会员服务
26+阅读 · 2020年11月14日
【元图(Meta-Graph):元学习小样本连接预测】
专知会员服务
62+阅读 · 2020年5月31日
注意力图神经网络的多标签文本分类
专知会员服务
111+阅读 · 2020年3月28日
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员