双曲图卷积神经网络

文章来源:ChamiI , Ying R , Ré, Christopher, et al. Hyperbolic Graph Convolutional Neural Networks[J]. Advances in neural information processing systems, 2019.

双曲空间是元空间的一个特殊情况。

在微分几何学中,人们研究的空间被称为歧形manifold,是曲面的一种高维泛化。这样一个manifold的每个点都可以被赋予一个曲率。当曲率为常数时,它可以是到处都是正数、零或负数。这就产生了三种几何体:椭圆、欧几里得和双曲,分别是椭圆、欧几里得和双曲,通常被认为是最公理、最简单的三种几何体。

双曲空间可以看作为树结构的连续版本,解决非欧数据映射到欧式空间中产生的变形/扭曲。

图网络和双曲嵌入都是快速发展中的算法,二者都有很强的通用性。 一方面,图网络(GCN为代表)的通用性体现在消息传播机制,即对邻居节点的信息聚合,体现的是局部结构特性,此外图网络可以充分利用节点的特征信息。 另一方面,大部分网络结构还具有无标度、小世界、幂律分布等全局特征。这些特征不能直接在GCN中体现,却可以通过双曲嵌入很好的表现出来。 本文在诸多前人工作基础上,结合图网络和双曲嵌入的优势,提出了双曲嵌入(hyperbolic embedding)下的图卷积网络,即HGCN.在这种网络结构下,普通的神经网络操作通过增加曲率参数推广到双曲空间,优化也在双曲空间中进行。HGCN在诸多的数据集上, 在节点分类和连边预测等任务上取得了比GCN类算法更好的效果,成为图网络算法的有力扩展。

模型--HGCN:

没用庞加莱圆盘模型—数值不稳定难优化,而是用的双曲面模型—好处:内积简单,与欧式空间相差小。

非线性激活:认为每一层的曲率都不一样,当成可以学习的参数。

实验:

结果表明,复杂网络如果具有双曲几何性质的话效果显著。

发布于 2020-06-26 19:58