图机器学习讲述关于《图神经网络理论》最新课程。

图网络(GNNs)的新变体层出不穷,但是却鲜有对图网络框架的理论分析。Kipf在2017年提出的GCN中,曾从图上的谱分析的角度给出了GCN的理论基础;近期也有日本研究者从图信号处理的角度,表明GNNs只是一个低频滤波器(arxiv.org/abs/1905.09550)。而本文尝试从图同构的角度出发,以Weisfeiler-Lehman Isomorphism Test (WL test)为基础,给出了GNNs表征能力的精彩理论分析,具体的贡献总结如下:

作者表明,在区别不同图结构时,GNNs最多只能取得和 WL test 一样效果,即,GNNs表征能力的上限是WL test;

作者也给出了构建GNNs的条件,满足这些条件后,GNNs的表征能力和 WL test一样强;

给出了GCN和GraphSAGE等传统图网络框架不能区分的网络结构;

建立了一个简单的框架GIN,并在理论上证明了其表征能力和 WL test一样强。

总结起来,全文需要回答两个关键性的问题:

  • GNNs表征能力的上限是什么?
  • 怎样的GNNs 框架设计才能达到最好的表征能力?
成为VIP会员查看完整内容
48

相关内容

图神经网络 (GNN) 是一种连接模型,它通过图的节点之间的消息传递来捕捉图的依赖关系。与标准神经网络不同的是,图神经网络保留了一种状态,可以表示来自其邻域的具有任意深度的信息。近年来,图神经网络(GNN)在社交网络、知识图、推荐系统、问答系统甚至生命科学等各个领域得到了越来越广泛的应用。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【斯坦福CS224W】图神经网络工业应用-AliGraph,84页ppt
专知会员服务
45+阅读 · 2021年3月19日
【斯坦福CS224W】图神经网络GNN高级主题,60页ppt
专知会员服务
69+阅读 · 2021年3月5日
【斯坦福CS224W】知识图谱推理,84页ppt
专知会员服务
116+阅读 · 2021年2月19日
专知会员服务
64+阅读 · 2021年2月17日
【斯坦福CS329S】机器学习系统设计导论,92页ppt
专知会员服务
36+阅读 · 2021年1月19日
专知会员服务
71+阅读 · 2020年8月25日
少标签数据学习,54页ppt
专知会员服务
192+阅读 · 2020年5月22日
CNN已老,GNN来了!清华大学孙茂松组一文综述GNN
全球人工智能
16+阅读 · 2018年12月26日
一文读懂神经网络(附PPT、视频)
数据派THU
17+阅读 · 2018年3月25日
Arxiv
0+阅读 · 2021年4月6日
Arxiv
5+阅读 · 2020年12月10日
Arxiv
19+阅读 · 2019年11月23日
Arxiv
23+阅读 · 2018年10月1日
Arxiv
3+阅读 · 2018年2月11日
Arxiv
6+阅读 · 2017年12月7日
VIP会员
相关VIP内容
【斯坦福CS224W】图神经网络工业应用-AliGraph,84页ppt
专知会员服务
45+阅读 · 2021年3月19日
【斯坦福CS224W】图神经网络GNN高级主题,60页ppt
专知会员服务
69+阅读 · 2021年3月5日
【斯坦福CS224W】知识图谱推理,84页ppt
专知会员服务
116+阅读 · 2021年2月19日
专知会员服务
64+阅读 · 2021年2月17日
【斯坦福CS329S】机器学习系统设计导论,92页ppt
专知会员服务
36+阅读 · 2021年1月19日
专知会员服务
71+阅读 · 2020年8月25日
少标签数据学习,54页ppt
专知会员服务
192+阅读 · 2020年5月22日
相关论文
Arxiv
0+阅读 · 2021年4月6日
Arxiv
5+阅读 · 2020年12月10日
Arxiv
19+阅读 · 2019年11月23日
Arxiv
23+阅读 · 2018年10月1日
Arxiv
3+阅读 · 2018年2月11日
Arxiv
6+阅读 · 2017年12月7日
微信扫码咨询专知VIP会员