【导读】最近,IJCAI(国际人工智能联合会议,International Joint Conferences on Artificial Intelligence)已于2019年8 月 10 日至 16 日在中国澳门举行。作为人工智能领域最顶级的国际学术会议之一,IJCAI 的举办自然备受瞩目,专知小编也不例外。上周小编已经整理了七篇JCAI 2019会议上图神经网络(GNN)相关论文,由于论文数量很多,这周小编继续为大家整理了7篇最新GNN相关论文——GraphHeat、Graph WaveNet、Hierarchical GCN、AddGraph、SPL GCN、Masked GCN。
IJCAI2019GNN_Part1、 KDD2019GNN、ACL2019GNN、CVPR2019GNN、 ICML2019GNN
1. Graph Convolutional Networks using Heat Kernel for Semi-supervised Learning
作者:Bingbing Xu , Huawei Shen , Qi Cao , Keting Cen and Xueqi Cheng;
摘要:图卷积网络在图结构数据的半监督学习中取得了显著的成功。基于图的半监督学习的关键是捕捉由图结构施加于节点上的标签或特征的平滑性。以往的方法,包括spectral方法和spatial方法,都致力于将图卷积定义为相邻节点上的加权平均,然后学习图卷积核,利用平滑度来提高基于图的半监督学习的性能。一个开放的挑战是如何确定合适的邻域来反映图结构中表现出来的平滑相关信息。在本文中,我们提出了GraphHeat,利用heat kernel来增强低频滤波器,并在图上的信号变化中增强平滑性。GraphHeat利用热扩散下目标节点的局部结构灵活地确定其相邻节点,而不受先前方法所受的顺序约束。GraphHeat在三个基准数据集(Cora、Citeseer和Pubmed)上实现了基于图的半监督分类,并取得了最先进的结果。
网址:
https://www.ijcai.org/proceedings/2019/0267.pdf
2. Graph WaveNet for Deep Spatial-Temporal Graph Modeling
作者:Zonghan Wu , Shirui Pan , Guodong Long, Jing Jiang, Chengqi Zhang;
摘要:时空图(Spatial-temporal graph)建模是分析系统中各组成部分的空间关系和时间趋势的一项重要工作。假设实体之间的底层关系是预先确定的,现有的方法主要捕获固定图结构上的空间依赖关系。但是,显式图形结构(关系)不一定反映真实的依赖关系,并且由于数据中的不完整连接可能会丢失真正的关系。此外,现有的方法无法捕捉时间趋势,因为这些方法中使用的RNNs或CNNs不能捕捉long-range的时间序列。为了克服这些局限性,本文提出了一种新的图神经网络结构—Graph WaveNet,用于时空图的建模。通过开发一种新的自适应依赖矩阵,并通过节点嵌入学习,该模型可以精确地捕捉数据中隐藏的空间依赖关系。利用stacked dilated一维卷积分量,其接收域随着层数的增加呈指数增长,Graph WaveNet能够处理非常长的序列。这两个组件无缝集成在一个统一的框架中,整个框架以端到端方式学习。在METR-LA和PEMS-BAY这两个公共交通网络数据集上的实验结果表明,该算法具有优越的性能。
网址:
https://www.ijcai.org/proceedings/2019/0264.pdf
3. Hierarchical Graph Convolutional Networks for Semi-supervised Node Classification
作者:Fenyu Hu, Yanqiao Zhu, Shu Wu, Liang Wang and Tieniu Tan;
摘要:图卷积网络(GCNs)已成功地应用于网络挖掘的节点分类任务中。然而,这些基于邻域聚合的模型大多比较浅显,缺乏“graph pooling”机制,无法获得足够的全局信息。为了增加感受野,我们提出了一种新的深度层次图卷积网络(H-GCN)用于半监督节点分类。H-GCN首先重复地将结构相似的节点聚合到超节点,然后将粗糙的图细化为原始图,以恢复每个节点的表示形式。该粗糙化方法不只是简单地聚合一个或两个hop的邻域信息,而是扩展了每个节点的接受域,从而获得更多的全局信息。提出的H-GCN模型在各种公共基准图数据集上表现出较强的经验性能,性能优于目前最先进的方法,在精度方面获得了高达5.9%的性能提升。此外,当只提供少量带标签的样本时,我们的模型得到了实质性的改进。
网址:
https://arxiv.org/abs/1902.06667
4. AddGraph: Anomaly Detection in Dynamic Graph Using Attention-based Temporal GCN
作者:Li Zheng, Zhenpeng Li, Jian Li, Zhao Li and Jun Gao;
摘要:动态图中的异常检测在许多不同的应用场景中都是非常关键的,例如推荐系统,但由于异常的高灵活性和缺乏足够的标记数据,也带来了巨大的挑战。在学习异常模式时,最好考虑所有可能的提示,包括结构、内容和时间特征,而不是对部分特征使用启发式规则。在本文中,我们提出了AddGraph,一个使用extended temporal GCN(Graph Convolutional Network,图卷积网络)和注意力模型的端到端异常边缘检测框架,它可以同时捕获动态图中的长期模式和短期模式。为了解决显式标注数据不足的问题,我们采用了选择性负采样和边际损失的方法,对AddGraph进行半监督训练。我们在实际数据集上进行了大量的实验,并证明了AddGraph在异常检测方面可以明显优于最先进的方法。
网址:
https://www.ijcai.org/proceedings/2019/0614.pdf
5. Dual Self-Paced Graph Convolutional Network: Towards Reducing Attribute Distortions Induced by Topology
作者:Liang Yang, Zhiyang Chen, Junhua Gu and Yuanfang Guo;
摘要:基于图卷积神经网络(GCNNs)的半监督节点分类的成功,归功于其拓扑上的特征平滑(传播)。然而,利用拓扑信息可能会干扰特征。这种失真将导致节点的一定量的错误分类,这可以仅用特征正确地预测。通过分析边缘在特征传播中的影响,连接具有相似特征的两个节点的简单边缘应该在训练过程中优先于根据curriculum learning的复杂边缘。为了在充分挖掘属性信息潜力的同时减少拓扑结构引起的失真,我们提出了Dual Self-Paced图卷积网络(DSP-GCN)。具体来说,在节点级self-paced learning中,将具有可信预测标签的无标签节点逐步添加到训练集中,而在边缘级self-paced learning中,在训练过程中,将边缘从简单的边缘逐渐添加到复杂的边缘到图中。这两种学习策略通过对边缘和无标签节点的选择进行耦合,实现了相互增强。在多个实际网络上进行了transductive半监督节点分类的实验结果表明,我们提出的DSP-GCN在仅使用一个图卷积层的情况下,成功地减少了拓扑引起的特征失真,同时具有较好的性能。
网址:
https://www.ijcai.org/proceedings/2019/0564.pdf
6. Masked Graph Convolutional Network
作者:Liang Yang, Fan Wu, Yingkui Wang, Junhua Gu and Yuanfang Guo;
摘要:半监督分类是机器学习领域中处理结构化和非结构化数据的一项基本技术。传统的基于特征图的半监督分类方法在通常由数据特征构造的图上传播标签,而图卷积神经网络在真实图拓扑上平滑节点属性,即传播特征。本文从传播的角度对其进行了解释,并将其分为基于对称传播和基于非对称传播的方法。从传播的角度看,传统的方法和基于网络的方法都是在图上传播特定的对象。然而,与标签传播不同的是,直觉上“连接的数据样本在特征方面趋于相似”,在特征传播中仅部分有效。因此,提出了一种masked图卷积网络(Masked GCN),它只是根据一个masking indicator将一部分特征传播给邻居,这是通过联合考虑局部邻域中的特征分布和对对分类结果的影响而为每个节点学习的。在传transductive和inductive节点分类任务上的大量实验证明了该方法的优越性。
网址:
https://www.ijcai.org/proceedings/2019/0565.pdf
7. Learning Image-Specific Attributes by Hyperbolic Neighborhood Graph Propagation
作者:Xiaofeng Xu, Ivor W. Tsang, Xiaofeng Cao, Ruiheng Zhang and Chuancai Liu;
摘要:特征作为视觉目标描述的一种语义表示,在各种计算机视觉任务中得到了广泛的应用。在现有的基于特征的研究中,通常采用类特定特征(class-specific attributes, CSA),这是类级别的标注,由于其对每个类的标注成本较低,而不是对每个单独的图像进行标注。然而,由于标注错误和单个图像的多样性,class-specific的特征通常是有噪声的。因此,我们希望从原始的class-specific特征中获得特定于图像的特征(image-specific,ISA),即image level标注。在本文中,我们提出了通过基于图的特征传播来学习image-specific的特征。考虑到双曲几何的内在属性,其距离呈指数扩展,构造双曲线邻域图(HNG)来表征样本之间的关系。基于HNG,我们定义了每个样本的邻域一致性,以识别不一致的样本。然后,根据HNG中不一致的样本的邻居对其进行细化。在5个基准数据集上的大量实验表明,在zero-shot目标分类任务中,学习的image-specific的特征明显优于原始的class-specific的特征。
网址:
https://www.ijcai.org/proceedings/2019/0554.pdf