【NeurIPS 2020】图神经网络GNN架构设计

2020 年 11 月 19 日 专知


图神经网络(GNNs)的快速发展带来了越来越多的新架构和新应用。目前的研究侧重于提出和评估GNNs的具体架构设计,而不是研究GNNs的更一般的设计空间,后者由不同设计维度的笛卡尔积(如层数或聚合函数的类型)组成。此外,GNN设计通常专门针对单个任务,但很少有人努力了解如何快速为新任务或新数据集找到最佳GNN设计。这里我们定义并系统地研究了GNNs的架构设计空间,它包含了超过32种不同的预测任务的315000种不同的设计。我们的方法有三个主要创新:(1)一个通用的GNN设计空间;(2)具有相似度度量的GNN任务空间,这样对于给定的新任务/数据集,我们可以快速识别/传输性能最好的架构;(3)一种高效的设计空间评价方法,可以从大量的模型-任务组合中提取洞察力。我们的主要结果包括:(1)一套设计性能良好的GNN的全面指南;(2)虽然针对不同任务的最佳GNN设计存在显著差异,但GNN任务空间允许在不同任务之间传输最佳设计;(3)利用我们的设计空间发现的模型实现了最先进的性能。总的来说,我们的工作提供了一个原则性和可扩展性的方法,实现了从研究针对特定任务的个体GNN设计到系统地研究GNN设计空间和任务空间的过渡。最后,我们发布了GraphGym,这是一个用于探索不同GNN设计和任务的强大平台。GraphGym具有模块化的GNN实现、标准化的GNN评估和可重复和可扩展的实验管理。


https://arxiv.org/abs/2011.08843


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“DSGNN” 就可以获取【NeurIPS 2020】图神经网络GNN架构设计》专知下载链接

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

专知会员服务
107+阅读 · 2020年12月21日
最新《图神经网络实用指南》2020论文,28页pdf
专知会员服务
221+阅读 · 2020年10月17日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
专知会员服务
42+阅读 · 2020年7月7日
【KDD2020-清华大学】图对比编码的图神经网络预训练
专知会员服务
44+阅读 · 2020年6月18日
【CVPR2020】图神经网络中的几何原理连接
专知会员服务
56+阅读 · 2020年4月8日
必读的7篇 IJCAI 2019【图神经网络(GNN)】相关论文
专知会员服务
91+阅读 · 2020年1月10日
八篇NeurIPS 2019【图神经网络(GNN)】相关论文
专知会员服务
43+阅读 · 2020年1月10日
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
13+阅读 · 2020年10月19日
最新《图嵌入组合优化》综述论文,40页pdf
【KDD2020】图神经网络生成式预训练
专知
22+阅读 · 2020年7月3日
【ICML2020】对比多视角表示学习
专知
19+阅读 · 2020年6月28日
Arxiv
19+阅读 · 2020年7月13日
Arxiv
15+阅读 · 2020年2月5日
Geometric Graph Convolutional Neural Networks
Arxiv
10+阅读 · 2019年9月11日
Simplifying Graph Convolutional Networks
Arxiv
7+阅读 · 2019年6月20日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Arxiv
8+阅读 · 2018年1月19日
VIP会员
相关VIP内容
专知会员服务
107+阅读 · 2020年12月21日
最新《图神经网络实用指南》2020论文,28页pdf
专知会员服务
221+阅读 · 2020年10月17日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
专知会员服务
42+阅读 · 2020年7月7日
【KDD2020-清华大学】图对比编码的图神经网络预训练
专知会员服务
44+阅读 · 2020年6月18日
【CVPR2020】图神经网络中的几何原理连接
专知会员服务
56+阅读 · 2020年4月8日
必读的7篇 IJCAI 2019【图神经网络(GNN)】相关论文
专知会员服务
91+阅读 · 2020年1月10日
八篇NeurIPS 2019【图神经网络(GNN)】相关论文
专知会员服务
43+阅读 · 2020年1月10日
相关论文
Arxiv
19+阅读 · 2020年7月13日
Arxiv
15+阅读 · 2020年2月5日
Geometric Graph Convolutional Neural Networks
Arxiv
10+阅读 · 2019年9月11日
Simplifying Graph Convolutional Networks
Arxiv
7+阅读 · 2019年6月20日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Arxiv
8+阅读 · 2018年1月19日
Top
微信扫码咨询专知VIP会员