KDD22教程「图神经网络:基础、前沿与应用」(附214页ppt)

2022 年 8 月 23 日 图与推荐

近年来，图神经网络(GNN)领域取得了令人难以置信的快速发展。图神经网络，也被称为图深度学习、图表示学习或几何深度学习，已经成为机器学习，尤其是深度学习中发展最快的研究课题之一。图论和深度学习交叉的这波研究浪潮也影响了其他科学领域，包括推荐系统、计算机视觉、自然语言处理、归纳逻辑编程、程序合成、软件挖掘、自动化规划、网络安全和智能交通。然而，随着该领域的迅速发展，获取全球范围内GNN发展的视角是极具挑战性的。因此，我们迫切需要弥合上述差距，并就这一快速增长但具有挑战性的主题提供全面的教程。

本教程将通过回顾和介绍图神经网络的基本概念和算法、图神经网络的新研究前沿以及图神经网络的广泛和新兴应用，涵盖图神经网络中广泛的主题。此外，通过我们最近出版的《图神经网络(GNN):基础、前沿和应用》一书，丰富的教程材料将包括和介绍，以帮助读者获得系统的理解，这是GNN研究人员和实践者阅读和学习的最全面的书籍之一。

Opening Remark (10 mins)

图神经网络基础 Foundations of Graph Neural Networks (50 mins)

Graph Neural Networks for Node Classification
The Express Power of Graph Neural Networks
The Interpretability of Graph Neural Networks

图神经网络前沿 Frontiers of Graph Neural Networks (50 mins)

Graph Generation and Transformation
Dynamic Graph Neural Networks
Graph Matching
Graph Structure Learning

应用 Broad and Emerging Applications (50 mins)

GNNs in Predicting Protein Function and Interactions
GNNs in Graph Neural Networks in Program Analysis
GNNs in Natural Language Processing

结论 Conclusion (10 mins)

图神经网络书籍

近年来，图神经网络(GNN)领域取得了快速和令人难以置信的进展。图神经网络，又称图深度学习、图表示学习或几何深度学习，已成为机器学习特别是深度学习领域发展最快的研究课题之一。这波图论和深度学习交叉的研究浪潮也影响了其他科学领域，包括推荐系统、计算机视觉、自然语言处理、归纳逻辑编程、程序合成、软件挖掘、自动规划、网络安全和智能交通。

尽管图神经网络已经获得了极大的关注，但在将其应用到其他领域时，它仍然面临着许多挑战，从方法的理论理解到实际系统中的可扩展性和可解释性，从方法的可靠性到应用中的经验性能。然而，随着该领域的迅速发展，获得全球视野的gnn的发展已成为一项极具挑战性的工作。

因此，我们感到迫切需要弥补上述差距，并就这一快速发展但具有挑战性的主题出版一本全面的书，它可以造福广泛的读者，包括高级本科生和研究生、博士后研究人员、讲师和行业从业者。

这本书旨在涵盖图神经网络中广泛的主题，从基础到前沿，并从方法到应用。本书致力于介绍GNNs的基本概念和算法，GNNs的新研究前沿，以及GNNs的广泛和新兴应用。

书籍地址：

https://graph-neural-networks.github.io/index.html

领域大牛推荐

“第一本全面涵盖一个快速发展的研究领域——图神经网络(GNN)的书，由权威作者撰写!”

韩家炜 - 美国伊利诺伊大学香槟分校计算机系教授，IEEE和ACM院士

这本书提出了一个全面和及时的图表示学习综述。由这一领域最好的专家编辑撰写，这本书是想学习任何关于图神经网络的学生，研究人员和实践者的必读作品。”

沈向洋-计算机视觉和图形学研究的世界级专家，IEEE Fellow，ACM Fellow）美国工程院院士，英国皇家工程科学院的国际院士

“作为深度学习的新前沿，图神经网络在结合概率学习和符号推理、连接知识驱动和数据驱动范式、开启第三代人工智能发展方面提供了巨大的潜力。这本书提供了全面和深刻的GNN介绍，从基础到前沿，从算法到应用。对于任何想要进入这一令人兴奋的领域的科学家、工程师和学生来说，这都是宝贵的资源。”

张钹 - 中国科学院院士，清华大学教授

“图神经网络是机器学习最热门的领域之一，这本书是一个很棒的深度资源，涵盖了图表示学习的广泛主题和应用。”

Jure Leskovec -斯坦福大学副教授

图神经网络是一种新兴的机器学习模型，已经在科学和工业领域掀起了一场风暴。是时候采取行动了！它的章节都是由该领域的许多专家精心撰写的。”

Petar Velickovic - DeepMind 高级研究科学家

目录内容：

本书主要分为3部分: Introduction, Foundations of Graph Neural Networks, 和 Frontiers of Graph Neural Networks.

第一部分：引言

第 1 章表示学习
第 2 章图表示学习
第 3 章图神经网络

第二部分：基础

第 4 章用于节点分类的图神经网络
第 5 章图神经网络的表达能力
第 6 章图神经网络：可扩展性
第 7 章图神经网络中的可解释性
第 8 章图神经网络：对抗鲁棒性

第三部分：前沿

第 9 章图神经网络：图分类
第 10 章图神经网络：链接预测
第 11 章图神经网络：图生成
第 12 章图神经网络：图变换
第 13 章图神经网络：图匹配
第 14 章图神经网络：图结构学习
第 15 章动态图神经网络
第 16 章异构图神经网络
第 17 章图神经网络：AutoML
第 18 章图神经网络：自监督学习

第四部分：应用

第 19 章现代推荐系统中的图神经网络
第 20 章计算机视觉中的图神经网络
第 21 章自然语言处理中的图神经网络
第 22 章程序分析中的图神经网络
第 23 章软件挖掘中的图神经网络
第 24 章药物开发中基于 GNN 的生物医学知识图谱挖掘
第 25 章预测蛋白质功能和相互作用的图神经网络
第 26 章异常检测中的图神经网络
第 27 章城市智能中的图神经网络

作者介绍

吴凌飞博士现任京东硅谷研发中心首席科学家。吴博士曾经是 IBM T. J. Watson Research Center 研究科学家和团队带头人。吴博士在 2016 年从威廉玛丽大学取得计算机博士学位。他的研究内容包括机器学习、表征学习和自然语言处理。

吴博士带领的 Graph4NLP (Deep Learning on Graphs for Natural Language Processing) 团队（12+ 研究科学家）致力于机器学习与文本数据挖掘领域的基础研究，并运用机器学习与文本数据挖掘方法解决实际问题。其学术成果先后发表在 NeurIPS, ICML, ICLR, ACL, EMNLP, KDD, AAAI, IJCAI 等国际顶级会议及期刊上，发表论文超过 80 多篇。代表作包括 IDGL, MGMN, Graph2Seq, GraphFlow。多项学术论文获得著名国际大会的最佳论文和最佳学术论文奖，包括 IEEE ICC 2019。

吴博士同时现任 IEEE 影响因子最高期刊之一 IEEE Transactions on Neural Networks and Learning Systems(TNNLS) 和 ACM SIGKDD 旗舰期刊 ACM Transactions on Knowledge Discovery from Data (TKDD) 的副主编。多次组织和担任国际顶级会议大会或者领域主席，如 AAAI, IJCAI, KDD, NeurIPS, ICLR, ICML, ACL, EMNLP。

崔鹏，清华大学计算机系长聘副教授。于 2010 年获得清华大学博士学位，研究兴趣包括因果正则机器学习（causally-regularized machine learning）、网络表示学习和社交动态建模。他在数据挖掘和多媒体领域知名会议和期刊上发表文章 100 多篇，近期研究获得 IEEE Multimedia Best Department Paper Award、ICDM 2015 最佳学生论文奖等多个奖项。2015 年，他获得 ACM 中国新星奖，2018 年获得 CCF-IEEE CS 青年科学家奖。目前，他是 ACM 和 CCF 杰出会员、IEEE 高级会员。

裴健在数据科学、大数据、数据挖掘和数据库系统等领域，是世界领先的研究学者，国际计算机协会（ACM）院士和国际电气电子工程师协会（IEEE）院士，擅长为数据密集型应用设计开发创新性的数据业务产品和高效的数据分析技术。因其在数据挖掘基础、方法和应用方面的杰出贡献，裴健曾获得数据科学领域技术成就最高奖 ACM SIGKDD Innovation Award（ACM SIGKDD 创新奖）和 IEEE ICDM Research Contributions Award（IEEE ICDM 研究贡献奖）。2018 年，裴健入职京东，任集团副总裁。此前，裴健教授还曾担任华为首席科学家。2019 年 9 月，裴健当选加拿大皇家学会院士。

赵亮现为埃默里大学担任计算机系助理教授，研究方向为数据挖掘、机器学习和优化。此前曾在乔治梅森大学信息科技学院和计算机学院担任助理教授。2016 年秋，赵亮获得弗吉尼亚理工大学的博士学位。此外，赵亮曾获 2020 年美国自然科学基金委员会杰出青年奖（NSF CAREER AWARD）、2019 年 Jeffress Trust Award、2017 年弗吉尼亚理工大学计算机学院杰出博士奖，并入选 2016 年微软评选出的数据挖掘领域 20 位学术新星。他还获得过 ICDM 2019 会议的最佳论文奖项。