图神经网络(GNN)在实际应用中往往会受到可用样本数量太少的限制,而元学习(meta-learning)作为解决机器学习中样本缺乏问题的重要框架,正逐渐被应用到 GNN 领域以解决该问题。本文梳理近年来在元学习应用于 GNN 的一系列研究进展,我们根据模型的架构、共享的表示和应用的领域对以往工作进行分类,并在最后讨论该领域当前有待解决的问题和未来值得关注的研究方向。

图结构数据(Graph)广泛存在于现实场景中,例如药物研究中的药物分子结构和推荐系统中的用户商品交互都可以用图(Graph)表示,而图数据(Graph)的广泛存在也促进了图神经网络(GNN)的发展。GNN 是专门用于处理图数据的深度神经网络,它将图或图上的顶点、边映射到一个低维空间,从而学习得到图的有效表示,并进一步将其应用于下游任务。近年来,GNN 被广泛应用于新药发现、交通预测、推荐系统等各个领域。

尽管 GNN 拥有非常强大的能力,但在实际应用中依然面临样本数量有限的挑战,特别是在推荐系统等真实系统更是要求 GNN 可以在少量样本可用的情况下适应新问题。而元学习(meta-learning)作为解决深度学习系统中样本缺乏问题的重要框架,在自然语言处理、机器人技术等多种应用中都取得了成功。因此,如何利用元学习解决 GNN 所面临的样本缺乏问题,是研究人员普遍关心的问题。

元学习的主要思想是利用之前的学习经验来快速适应一个新问题,从而利用很少的样本就能学习一个有用的算法。具体来讲,元学习旨在以先验的形式学习一个模型,而不是针对所有任务学习一个模型(不能区分任务)或针对每个任务学习单独的模型(可能对每个任务过拟合)。元学习应用于 Graph 的主要挑战是如何确定跨任务共享的表示类型,以及怎样设计有效的训练策略。近期,研究人员针对不同的应用场景,已经提出了多种元学习方法来训练 GNN。本文我们就将对元学习在 GNN 上的运用进行全面回顾。

成为VIP会员查看完整内容
92

相关内容

Meta Learning,元学习,也叫 Learning to Learn(学会学习)。是继Reinforcement Learning(增强学习)之后又一个重要的研究分支。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
34+阅读 · 2021年6月24日
专知会员服务
182+阅读 · 2021年2月4日
【清华大学】图神经网络交通流预测综述论文,19页pdf
专知会员服务
41+阅读 · 2021年1月29日
专知会员服务
45+阅读 · 2020年10月22日
最新《图神经网络模型与应用》综述论文
专知会员服务
290+阅读 · 2020年8月2日
图神经网络表达能力的研究综述,41页pdf
专知会员服务
167+阅读 · 2020年3月10日
专知会员服务
84+阅读 · 2020年1月20日
基于图神经网络的知识图谱研究进展
AI科技评论
19+阅读 · 2020年8月31日
【基于元学习的推荐系统】5篇相关论文
专知
9+阅读 · 2020年1月20日
基于 GNN 的图表示学习
DataFunTalk
9+阅读 · 2020年1月17日
图神经网络(Graph Neural Networks,GNN)综述
极市平台
103+阅读 · 2019年11月27日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
论文浅尝 | 图神经网络综述:方法及应用
开放知识图谱
113+阅读 · 2019年2月14日
清华大学图神经网络综述:模型与应用
机器之心
72+阅读 · 2018年12月26日
图神经网络综述:模型与应用
PaperWeekly
193+阅读 · 2018年12月26日
Meta-Learning 元学习:学会快速学习
极市平台
74+阅读 · 2018年12月19日
Arxiv
7+阅读 · 2020年10月7日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Arxiv
135+阅读 · 2018年10月8日
Arxiv
23+阅读 · 2018年10月1日
Arxiv
7+阅读 · 2018年6月8日
Arxiv
9+阅读 · 2018年2月4日
VIP会员
相关VIP内容
专知会员服务
34+阅读 · 2021年6月24日
专知会员服务
182+阅读 · 2021年2月4日
【清华大学】图神经网络交通流预测综述论文,19页pdf
专知会员服务
41+阅读 · 2021年1月29日
专知会员服务
45+阅读 · 2020年10月22日
最新《图神经网络模型与应用》综述论文
专知会员服务
290+阅读 · 2020年8月2日
图神经网络表达能力的研究综述,41页pdf
专知会员服务
167+阅读 · 2020年3月10日
专知会员服务
84+阅读 · 2020年1月20日
相关资讯
基于图神经网络的知识图谱研究进展
AI科技评论
19+阅读 · 2020年8月31日
【基于元学习的推荐系统】5篇相关论文
专知
9+阅读 · 2020年1月20日
基于 GNN 的图表示学习
DataFunTalk
9+阅读 · 2020年1月17日
图神经网络(Graph Neural Networks,GNN)综述
极市平台
103+阅读 · 2019年11月27日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
论文浅尝 | 图神经网络综述:方法及应用
开放知识图谱
113+阅读 · 2019年2月14日
清华大学图神经网络综述:模型与应用
机器之心
72+阅读 · 2018年12月26日
图神经网络综述:模型与应用
PaperWeekly
193+阅读 · 2018年12月26日
Meta-Learning 元学习:学会快速学习
极市平台
74+阅读 · 2018年12月19日
相关论文
Arxiv
7+阅读 · 2020年10月7日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Arxiv
135+阅读 · 2018年10月8日
Arxiv
23+阅读 · 2018年10月1日
Arxiv
7+阅读 · 2018年6月8日
Arxiv
9+阅读 · 2018年2月4日
微信扫码咨询专知VIP会员