本文首先给出了一种学习节点信息卷积隐含层的图网学习算法。根据标签是附着在节点上还是附着在图上,研究了两种类型的GNN。在此基础上,提出了一个完整的GNN训练算法收敛性设计和分析框架。该算法适用于广泛的激活函数,包括ReLU、Leaky ReLU、Sigmod、Softplus和Swish。实验表明,该算法保证了对基本真实参数的线性收敛速度。对于这两种类型的GNN,都用节点数或图数来表征样本复杂度。从理论上分析了特征维数和GNN结构对收敛率的影响。数值实验进一步验证了理论分析的正确性。

https://arxiv.org/pdf/2012.03429.pdf

成为VIP会员查看完整内容
18

相关内容

AAAI2021 | 学习预训练图神经网络
专知会员服务
114+阅读 · 2021年1月28日
【AAAI2021】记忆门控循环网络
专知会员服务
47+阅读 · 2020年12月28日
【AAAI2021】层次推理图神经网络
专知会员服务
67+阅读 · 2020年12月27日
专知会员服务
106+阅读 · 2020年12月21日
【AAAI2021】 层次图胶囊网络
专知会员服务
80+阅读 · 2020年12月18日
专知会员服务
37+阅读 · 2020年11月24日
专知会员服务
43+阅读 · 2020年9月3日
注意力图神经网络的小样本学习
专知会员服务
190+阅读 · 2020年7月16日
【KDD2020】最小方差采样用于图神经网络的快速训练
专知会员服务
27+阅读 · 2020年7月13日
【CVPR2020】L2 ^GCN:图卷积网络的分层学习高效训练
专知会员服务
37+阅读 · 2020年3月31日
【GNN】图神经网络入门之GRN图循环网络
深度学习自然语言处理
15+阅读 · 2020年5月9日
图神经网络火了?谈下它的普适性与局限性
机器之心
21+阅读 · 2019年7月29日
图神经网络综述:模型与应用
PaperWeekly
193+阅读 · 2018年12月26日
Arxiv
0+阅读 · 2021年2月8日
Arxiv
0+阅读 · 2021年2月7日
Arxiv
1+阅读 · 2021年2月4日
Arxiv
3+阅读 · 2018年8月17日
VIP会员
相关主题
相关VIP内容
AAAI2021 | 学习预训练图神经网络
专知会员服务
114+阅读 · 2021年1月28日
【AAAI2021】记忆门控循环网络
专知会员服务
47+阅读 · 2020年12月28日
【AAAI2021】层次推理图神经网络
专知会员服务
67+阅读 · 2020年12月27日
专知会员服务
106+阅读 · 2020年12月21日
【AAAI2021】 层次图胶囊网络
专知会员服务
80+阅读 · 2020年12月18日
专知会员服务
37+阅读 · 2020年11月24日
专知会员服务
43+阅读 · 2020年9月3日
注意力图神经网络的小样本学习
专知会员服务
190+阅读 · 2020年7月16日
【KDD2020】最小方差采样用于图神经网络的快速训练
专知会员服务
27+阅读 · 2020年7月13日
【CVPR2020】L2 ^GCN:图卷积网络的分层学习高效训练
专知会员服务
37+阅读 · 2020年3月31日
微信扫码咨询专知VIP会员