【ICML2021】基于经典迭代算法的图神经网络

论文题目：Graph Neural Networks Inspired by Classical Iterative Algorithms

作者：Yongyi Yang，Tang Liu，Yangkun Wang，Jinjing Zhou，Quan Gan，魏哲巍，Zheng Zhang，Zengfeng Huang，David Wipf

论文概述：图神经网络（GNN）作为建模实体间关系的代表性方法，已被成功应用于多个领域。然而现有方法仍存在一些局限性，例如过平滑问题、长距离依赖性问题等。本篇论文基于两种经典迭代算法提出了首个unfolding视角的GNN集成框架TWIRLS，首先通过模仿近似梯度下降设计了一个可扩展的基础GNN架构，能够允许任意的传播步骤以捕捉长距离依赖关系同时有效避免过平滑问题。在此基础上，结合迭代加权最小二乘法的更新规则提出了新的注意力机制系列，无需引入额外参数或设计启发式方法而对边的不确定性表现鲁棒。同时，本篇论文进行了大量实验旨在评估不同情况下算法的性能，实验结果表明，即使与特定任务SOTA模型相比，本篇论文所提算法均取得具有竞争力或更高的节点分类精度。

https://www.zhuanzhi.ai/paper/49b1ba16194db9f330657396a37982dd