Graph convolution networks have recently garnered a lot of attention for representation learning on non-Euclidean feature spaces. Recent research has focused on stacking multiple layers like in convolutional neural networks for the increased expressive power of graph convolution networks. However, simply stacking multiple graph convolution layers lead to issues like vanishing gradient, over-fitting and over-smoothing. Such problems are much less when using shallower networks, even though the shallow networks have lower expressive power. In this work, we propose a novel Multipath Graph convolutional neural network that aggregates the output of multiple different shallow networks. We train and test our model on various benchmarks datasets for the task of node property prediction. Results show that the proposed method not only attains increased test accuracy but also requires fewer training epochs to converge. The full implementation is available at https://github.com/rangan2510/MultiPathGCN


翻译:最近的研究侧重于堆叠多个层层,比如在卷动神经网络中堆叠多个层,以强化图动网络的显性力量。然而,只是堆叠多个图动层导致诸如渐变梯度消失、过度装配和过度移动等问题。在使用浅层网络时,这些问题要少得多,尽管浅层网络的表达力较低。在这项工作中,我们提议建立一个新颖的多路路图共向神经网络,汇集多个不同浅层网络的输出。我们培训和测试关于节点属性预测任务的各种基准数据集的模型。结果显示,拟议方法不仅提高了测试精确度,而且需要较少的训练,以汇集。可在https://github.com/rangan2510MultiPathGCN上查阅全面实施。

0
下载
关闭预览

相关内容

【ICML2020】持续图神经网络,Continuous Graph Neural Networks
专知会员服务
149+阅读 · 2020年6月28日
【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
154+阅读 · 2020年5月26日
【阿尔托大学】图神经网络,Graph Neural Networks,附60页ppt
专知会员服务
181+阅读 · 2020年4月26日
一文读懂图卷积GCN
AINLP
4+阅读 · 2019年12月17日
图神经网络(Graph Neural Networks,GNN)综述
极市平台
104+阅读 · 2019年11月27日
Graph Neural Networks 综述
计算机视觉life
29+阅读 · 2019年8月13日
Graph Neural Network(GNN)最全资源整理分享
深度学习与NLP
339+阅读 · 2019年7月9日
深度卷积神经网络中的降采样
极市平台
12+阅读 · 2019年5月24日
清华大学孙茂松组:图神经网络必读论文列表
机器之心
46+阅读 · 2018年12月27日
Capsule Networks解析
机器学习研究会
11+阅读 · 2017年11月12日
Pointer Graph Networks
Arxiv
7+阅读 · 2020年6月11日
Self-Attention Graph Pooling
Arxiv
13+阅读 · 2019年6月13日
Arxiv
15+阅读 · 2019年4月4日
Arxiv
12+阅读 · 2018年9月15日
Arxiv
4+阅读 · 2018年7月4日
Arxiv
3+阅读 · 2018年2月11日
VIP会员
相关资讯
一文读懂图卷积GCN
AINLP
4+阅读 · 2019年12月17日
图神经网络(Graph Neural Networks,GNN)综述
极市平台
104+阅读 · 2019年11月27日
Graph Neural Networks 综述
计算机视觉life
29+阅读 · 2019年8月13日
Graph Neural Network(GNN)最全资源整理分享
深度学习与NLP
339+阅读 · 2019年7月9日
深度卷积神经网络中的降采样
极市平台
12+阅读 · 2019年5月24日
清华大学孙茂松组:图神经网络必读论文列表
机器之心
46+阅读 · 2018年12月27日
Capsule Networks解析
机器学习研究会
11+阅读 · 2017年11月12日
Top
微信扫码咨询专知VIP会员