The key issue of few-shot learning is learning to generalize. In this paper, we propose a large margin principle to improve the generalization capacity of metric based methods for few-shot learning. To realize it, we develop a unified framework to learn a more discriminative metric space by augmenting the softmax classification loss function with a large margin distance loss function for training. Extensive experiments on two state-of-the-art few-shot learning models, graph neural networks and prototypical networks, show that our method can improve the performance of existing models substantially with very little computational overhead, demonstrating the effectiveness of the large margin principle and the potential of our method.


翻译:少见学习的关键问题是学习概括化。 在本文中,我们提出了一个巨大的边际原则,以提高基于计量方法的通用能力,进行少见学习。为了实现这一点,我们制定了一个统一的框架,通过扩大软负分级损失功能,为培训提供巨大的距离损失功能,学习更具歧视性的衡量空间。关于两个最先进的少见学习模式,即图形神经网络和原型网络的广泛实验表明,我们的方法可以大大改进现有模型的性能,而计算间接费用很少,这表明大宽度原则的有效性和我们方法的潜力。

10
下载
关闭预览

相关内容

小样本学习(Few-Shot Learning,以下简称 FSL )用于解决当可用的数据量比较少时,如何提升神经网络的性能。在 FSL 中,经常用到的一类方法被称为 Meta-learning。和普通的神经网络的训练方法一样,Meta-learning 也包含训练过程和测试过程,但是它的训练过程被称作 Meta-training 和 Meta-testing。
元学习(meta learning) 最新进展综述论文
专知会员服务
238+阅读 · 2020年5月8日
因果关联学习,Causal Relational Learning
专知会员服务
148+阅读 · 2020年4月21日
Hierarchically Structured Meta-learning
CreateAMind
14+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
11+阅读 · 2019年5月18日
小样本学习(Few-shot Learning)综述
PaperWeekly
119+阅读 · 2019年4月1日
强化学习的Unsupervised Meta-Learning
CreateAMind
8+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
22+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
9+阅读 · 2019年1月2日
Auto-Encoding GAN
CreateAMind
5+阅读 · 2017年8月4日
Few-shot Learning: A Survey
Arxiv
346+阅读 · 2019年4月10日
Arxiv
12+阅读 · 2019年1月26日
Learning Embedding Adaptation for Few-Shot Learning
Arxiv
12+阅读 · 2018年12月10日
Meta-Transfer Learning for Few-Shot Learning
Arxiv
6+阅读 · 2018年12月6日
Few Shot Learning with Simplex
Arxiv
5+阅读 · 2018年7月27日
VIP会员
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
14+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
11+阅读 · 2019年5月18日
小样本学习(Few-shot Learning)综述
PaperWeekly
119+阅读 · 2019年4月1日
强化学习的Unsupervised Meta-Learning
CreateAMind
8+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
22+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
9+阅读 · 2019年1月2日
Auto-Encoding GAN
CreateAMind
5+阅读 · 2017年8月4日
相关论文
Few-shot Learning: A Survey
Arxiv
346+阅读 · 2019年4月10日
Arxiv
12+阅读 · 2019年1月26日
Learning Embedding Adaptation for Few-Shot Learning
Arxiv
12+阅读 · 2018年12月10日
Meta-Transfer Learning for Few-Shot Learning
Arxiv
6+阅读 · 2018年12月6日
Few Shot Learning with Simplex
Arxiv
5+阅读 · 2018年7月27日
Top
微信扫码咨询专知VIP会员