【AAAI2021】近似梯度下降的学习图神经网络

本文首先给出了一种学习节点信息卷积隐含层的图网学习算法。根据标签是附着在节点上还是附着在图上，研究了两种类型的GNN。在此基础上，提出了一个完整的GNN训练算法收敛性设计和分析框架。该算法适用于广泛的激活函数，包括ReLU、Leaky ReLU、Sigmod、Softplus和Swish。实验表明，该算法保证了对基本真实参数的线性收敛速度。对于这两种类型的GNN，都用节点数或图数来表征样本复杂度。从理论上分析了特征维数和GNN结构对收敛率的影响。数值实验进一步验证了理论分析的正确性。

https://arxiv.org/pdf/2012.03429.pdf