图卷积网络(GCN)的原始设计将特征转换和邻域聚合结合起来用于节点表示学习。最近,一些研究表明耦合不如解耦,它更好地支持深度图传播,已成为GCN的最新范式(如APPNP[16]和SGCN[32])。尽管有效,解耦的GCN的工作机制并没有被很好地理解。
http://staff.ustc.edu.cn/~hexn/papers/www21-PTA.pdf
本文从标签传播的新视角出发,探讨了半监督节点分类的解耦GCN。解耦图神经网络(decoupled GCN)已经成为图神经网络主流的设计范式,其将特征变换和邻居聚合分离开来,克服了原始图神经网络的诸多问题,取得了更好的效果。我们从梯度的角度发现,解耦图卷积网络和两步的标签传播(Label Propagation, LP)是等价的:(1)根据图结构传播已知的标签,为有标签节点的邻居打上标签;(2)利用增强的伪标签数据训练一个正常的神经网络分类器。 基于理论分析,我们发现解耦图卷积网络的缺点:(1)对标签噪声敏感;(2)对初始值敏感。为此,我们提出自适应地传播再训练(PTA),通过两个设计解决了上述问题:(1)去除权重对标签的初始化;(2)引入自适应因子。
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“EDGCN” 就可以获取《【WWW 2021】论解耦图卷积网络和标签传播的等价性》专知下载链接