【WWW 2021】论解耦图卷积网络和标签传播的等价性

2021 年 3 月 17 日 专知

图卷积网络(GCN)的原始设计将特征转换和邻域聚合结合起来用于节点表示学习。最近,一些研究表明耦合不如解耦,它更好地支持深度图传播,已成为GCN的最新范式(如APPNP[16]和SGCN[32])。尽管有效,解耦的GCN的工作机制并没有被很好地理解。


http://staff.ustc.edu.cn/~hexn/papers/www21-PTA.pdf


本文从标签传播的新视角出发,探讨了半监督节点分类的解耦GCN。解耦图神经网络(decoupled GCN)已经成为图神经网络主流的设计范式,其将特征变换邻居聚合分离开来,克服了原始图神经网络的诸多问题,取得了更好的效果。我们从梯度的角度发现,解耦图卷积网络和两步的标签传播(Label Propagation, LP)是等价的:(1)根据图结构传播已知的标签,为有标签节点的邻居打上标签;(2)利用增强的伪标签数据训练一个正常的神经网络分类器。 基于理论分析,我们发现解耦图卷积网络的缺点:(1)对标签噪声敏感;(2)对初始值敏感。为此,我们提出自适应地传播再训练(PTA),通过两个设计解决了上述问题:(1)去除权重对标签的初始化;(2)引入自适应因子。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“EDGCN” 就可以获取【WWW 2021】论解耦图卷积网络和标签传播的等价性》专知下载链接

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
1

相关内容

专知会员服务
40+阅读 · 2021年6月10日
专知会员服务
36+阅读 · 2021年4月18日
【ICLR2021】通过多种自监督方式提升GAT中注意力
专知会员服务
43+阅读 · 2021年2月27日
专知会员服务
17+阅读 · 2021年2月8日
【NeurIPS2020】可靠图神经网络鲁棒聚合
专知会员服务
18+阅读 · 2020年11月6日
专知会员服务
16+阅读 · 2020年10月18日
专知会员服务
18+阅读 · 2020年9月11日
【SIGIR2020】LightGCN: 简化和增强图卷积网络推荐
专知会员服务
72+阅读 · 2020年6月1日
【CVPR2020】L2 ^GCN:图卷积网络的分层学习高效训练
专知会员服务
37+阅读 · 2020年3月31日
【CVPR2021】细粒度多标签分类
专知
44+阅读 · 2021年3月8日
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
13+阅读 · 2020年10月19日
【ICML2020】图神经网络谱聚类
专知
10+阅读 · 2020年7月7日
Arxiv
14+阅读 · 2019年9月11日
Arxiv
15+阅读 · 2019年4月4日
VIP会员
相关VIP内容
专知会员服务
40+阅读 · 2021年6月10日
专知会员服务
36+阅读 · 2021年4月18日
【ICLR2021】通过多种自监督方式提升GAT中注意力
专知会员服务
43+阅读 · 2021年2月27日
专知会员服务
17+阅读 · 2021年2月8日
【NeurIPS2020】可靠图神经网络鲁棒聚合
专知会员服务
18+阅读 · 2020年11月6日
专知会员服务
16+阅读 · 2020年10月18日
专知会员服务
18+阅读 · 2020年9月11日
【SIGIR2020】LightGCN: 简化和增强图卷积网络推荐
专知会员服务
72+阅读 · 2020年6月1日
【CVPR2020】L2 ^GCN:图卷积网络的分层学习高效训练
专知会员服务
37+阅读 · 2020年3月31日
相关资讯
【CVPR2021】细粒度多标签分类
专知
44+阅读 · 2021年3月8日
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
13+阅读 · 2020年10月19日
【ICML2020】图神经网络谱聚类
专知
10+阅读 · 2020年7月7日
Top
微信扫码咨询专知VIP会员