【HEC-Montreal唐建博士】图神经网络推理，附27页ppt

2019 年 10 月 30 日 专知

【导读】图推理方法从规则逻辑推断到概率图模型统计关联学习，现在图神经网络的出现能够进一步提升图推理的性能，但是如何结合是个挑战性的问题？HEC 蒙特利尔大学商学院助理教授唐建唐建博士在10月24日蒙特利尔的深度学习峰会做了《将统计关系学习与图神经网络相结合进行推理》报告，讲解了关于图神经网络推理，非常值得学习！

请关注专知公众号（点击上方蓝色专知关注）

后台回复“GNNR” 就可以获取《图神经网络推理》PPT下载链接~

唐建博士自2017年12月起担任Mila(魁北克AI研究所)和HEC Montreal的助理教授。他是加拿大CIFAR第一批人工智能主席(CIFAR AI Research Chair)。他的研究方向是深度图表示学习，在知识图谱、药物发现和推荐系统等领域有着广泛的应用。他是密歇根大学和卡内基梅隆大学的研究员。他在北京大学获得博士学位，并在密歇根大学做了两年的访问学者。他在微软亚洲研究院做了两年的研究员。他在图表示学习(如LINE、LargeVis和RotatE)方面的工作得到了广泛的认可。他获得了ICML ' 14的最佳论文奖和WWW ' 16的最佳论文提名。

个人主页：

https://jian-tang.com/

图神经网络推理

构建统计机器学习方法进行图上预测是很多应用的基础问题，例如知识图谱的半监督节点分类和链接预测。传统的统计关联学习方法和近年来发展起来的图神经网络都对这类问题进行了广泛的研究。在这次演讲中，我将介绍我们最近在结合这两个领域的优势来进行图预测和推理所做的努力。我将介绍我们的工作结合条件随机域和semi-supervised节点的神经网络分类(图马尔可夫神经网络,ICML 19)和最近的研究在结合马尔可夫逻辑网络和知识图谱嵌入(概率逻辑神经网络)的推理。

在这次报告中，我将介绍今年的ICML2019论文(GMNN: Graph Markov Neural Networks)。研究了关系数据中的半监督对象分类问题，这是关系数据建模中的一个基本问题。这个问题在统计相关学习(如关联马尔科夫网络)和图神经网络(如图卷积网络)的文献中得到了广泛的研究。统计相关学习方法可以通过条件随机域对对象标签的依赖关系进行有效的建模，实现集体分类，而图神经网络则通过端到端训练来学习有效的对象表示，实现分类。在这篇论文中，我们提出了结合这两个领域的优势的图马尔可夫神经网络(GMNN)。GMNN利用条件随机场对目标标签的联合分布进行建模，利用变分EM算法对其进行有效训练。 在E-step中，一个图神经网络学习有效的对象表示来近似对象标签的后验分布。 在M -步骤中，使用另一个图神经网络对局部标签依赖关系进行建模 。在目标分类、链路分类和无监督节点表示学习等方面的实验表明，该算法取得了较好的效果。