【NeurIPS2020】梯度增强的转导优化和泛化分析及在多尺度图神经网络中的应用

我们知道，目前的图神经网络(GNNs)由于被称为过度平滑的问题，很难变深。多尺度GNN是一种很有前途的方法，以减轻过度平滑问题。然而，很少有人从学习理论的角度解释为什么它在经验上有效。在本研究中，我们推导了包括多尺度GNN的转导学习算法的优化和泛化保证。利用boosting理论，证明了训练误差在弱学习类型条件下的收敛性。通过将其与泛化间隙边界在转导距离复杂度上的结合，我们证明了在此条件下，某一特定类型的多尺度GNN的测试误差边界随深度的减小而相应减小。我们的结果为多尺度结构对抗过平滑问题的有效性提供了理论解释。我们将boosting算法应用于训练多尺度的GNN来完成真实的节点预测任务。我们证实其性能与现有的GNNs相当，实际行为与理论观测一致。代码可在https://github.com/delta2323/GB-GNN下载。

https://www.zhuanzhi.ai/paper/8f08812139e67b767e5b59c2a71e5bdd

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“OGAT” 可以获取《【NeurIPS2020】梯度增强的转导优化和泛化分析及在多尺度图神经网络中的应用》专知下载链接索引

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取5000+AI主题知识资源