【AAAI2023】图序注意力网络

2022 年 11 月 24 日 专知


图神经网络(GNNs)已经成功地用于许多涉及图结构数据的问题,实现了最先进的性能。GNN通常采用消息传递方案,其中每个节点使用置换不变聚合函数从其邻居聚合信息。经过严格检查的标准选择(如平均值或和聚合函数)功能有限,因为它们无法捕获相邻函数之间的交互。在这项工作中,我们使用一个信息理论框架来形式化这些交互作用,特别是包括协同信息。在此定义的驱动下,我们引入了图排序注意力层(GOAT),这是一种新颖的GNN组件,用于捕获邻域节点之间的交互。这是通过一种注意力机制来学习局部节点顺序,并使用循环神经网络聚合器处理有序表示来实现的。这种设计允许我们使用一个排列敏感的聚合器,同时保持拟议的GOAT层的排列等效。GOAT模型展示了它在捕获复杂信息的图指标(如中间性中心性和节点的有效大小)建模方面提高的性能。在实际用例中,通过在几个真实的节点分类基准测试中取得的成功,它的卓越建模能力得到了证实。
https://www.zhuanzhi.ai/paper/367986d1916e281d7e097fc058bfeb6e


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“GOAN” 就可以获取【AAAI2023】图序注意力网络》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料

登录查看更多
5

相关内容

【AAAI2022】基于对比学习的预训练语言模型剪枝压缩
专知会员服务
27+阅读 · 2022年1月24日
【AAAI2022】同时适用于同质和异质性的图神经网络
专知会员服务
31+阅读 · 2022年1月3日
【AAAI2021-斯坦福】身份感知的图神经网络
专知会员服务
37+阅读 · 2021年1月27日
【AAAI2021】时间关系建模与自监督的动作分割
专知会员服务
36+阅读 · 2021年1月24日
【AAAI2021】图卷积网络中的低频和高频信息作用
专知会员服务
57+阅读 · 2021年1月6日
【AAAI2021】记忆门控循环网络
专知会员服务
47+阅读 · 2020年12月28日
【AAAI2021】层次推理图神经网络
专知会员服务
68+阅读 · 2020年12月27日
专知会员服务
107+阅读 · 2020年12月21日
专知会员服务
44+阅读 · 2020年12月20日
【AAAI2021】 层次图胶囊网络
专知会员服务
80+阅读 · 2020年12月18日
【AAAI2023】基于序图的因果结构强化学习
专知
4+阅读 · 2022年11月25日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年2月2日
Arxiv
0+阅读 · 2023年2月1日
Arxiv
12+阅读 · 2021年5月3日
Arxiv
15+阅读 · 2020年2月5日
Arxiv
20+阅读 · 2019年9月7日
Arxiv
23+阅读 · 2018年10月1日
VIP会员
相关VIP内容
【AAAI2022】基于对比学习的预训练语言模型剪枝压缩
专知会员服务
27+阅读 · 2022年1月24日
【AAAI2022】同时适用于同质和异质性的图神经网络
专知会员服务
31+阅读 · 2022年1月3日
【AAAI2021-斯坦福】身份感知的图神经网络
专知会员服务
37+阅读 · 2021年1月27日
【AAAI2021】时间关系建模与自监督的动作分割
专知会员服务
36+阅读 · 2021年1月24日
【AAAI2021】图卷积网络中的低频和高频信息作用
专知会员服务
57+阅读 · 2021年1月6日
【AAAI2021】记忆门控循环网络
专知会员服务
47+阅读 · 2020年12月28日
【AAAI2021】层次推理图神经网络
专知会员服务
68+阅读 · 2020年12月27日
专知会员服务
107+阅读 · 2020年12月21日
专知会员服务
44+阅读 · 2020年12月20日
【AAAI2021】 层次图胶囊网络
专知会员服务
80+阅读 · 2020年12月18日
相关基金
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Arxiv
0+阅读 · 2023年2月2日
Arxiv
0+阅读 · 2023年2月1日
Arxiv
12+阅读 · 2021年5月3日
Arxiv
15+阅读 · 2020年2月5日
Arxiv
20+阅读 · 2019年9月7日
Arxiv
23+阅读 · 2018年10月1日
Top
微信扫码咨询专知VIP会员