【ICLR2021】先增强后进行卷积：梯度提升遇到图神经网络

本文出自Criteo AI实验室，图神经网络适合处理图结构，但在处理具有表格节点特征的图时，较为困难。本文利用梯度提升决策树（GBDT）处理异构表格数据的优势，搭建一套BGDT处理异构特征、GNN处理图结构的体系，通过广泛的实验证明该体系结构处理表格节点特征图时性能显著提高。

图神经网络（GNN）是功能强大的模型，已在各种图表示学习任务中取得了成功。面对异构表格数据时，梯度提升决策树（GBDT）通常优于其他机器学习方法。但是，对于具有表格节点特征的图，应该使用哪种方法？先前的GNN模型主要集中在具有同质稀疏特征的网络上，并且如我们所示，在异构环境中次优。在这项工作中，作者团队提出了一种新颖的体系结构，该体系结构可以联合训练GBDT和GNN以获得两者的最佳选择：GBDT模型处理异构特征，而GNN负责图结构。通过允许新树适合GNN的梯度日期，我们的模型受益于端到端优化。通过与领先的GBDT和GNN模型进行广泛的实验比较，我们证明了具有表格特征的各种图形的性能均得到了显着提高。

BGNN（GBDT和GNN进行端到端培训）的训练如下图1所示，在算法1中，介绍了结合GBDT和GNN的BGNN模型的训练，以解决任何节点级预测问题。

https://github.com/nd7141/bgnn