Few sample learning (FSL) is significant and challenging in the field of machine learning. The capability of learning and generalizing from very few samples successfully is a noticeable demarcation separating artificial intelligence and human intelligence since humans can readily establish their cognition to novelty from just a single or a handful of examples whereas machine learning algorithms typically entail hundreds or thousands of supervised samples to guarantee generalization ability. Despite the long history dated back to the early 2000s and the widespread attention in recent years with booming deep learning technologies, little surveys or reviews for FSL are available until now. In this context, we extensively review 200+ papers of FSL spanning from the 2000s to 2019 and provide a timely and comprehensive survey for FSL. In this survey, we review the evolution history as well as the current progress on FSL, categorize FSL approaches into the generative model based and discriminative model based kinds in principle, and emphasize particularly on the meta learning based FSL approaches. We also summarize several recently emerging extensional topics of FSL and review the latest advances on these topics. Furthermore, we highlight the important FSL applications covering many research hotspots in computer vision, natural language processing, audio and speech, reinforcement learning and robotic, data analysis, etc. Finally, we conclude the survey with a discussion on promising trends in the hope of providing guidance and insights to follow-up researches.


翻译:在机器学习领域,很少的抽样学习(FSL)是重要而具有挑战性的。从为数不多的抽样学习和普及能力是将人工智能和人类情报成功地区分开来的一个显著的分界,因为人类可以很容易地从一个或几个例子建立对新事物的认知,而机器学习算法通常需要数百或数千个监督样本,以保证普遍化能力。尽管历史悠久,可追溯到2000年代初,近年来人们广泛关注基于深层学习技术的现代学习技术,但到目前为止,FSL很少有调查或审查。在这方面,我们广泛审查FSL2000年代至2019年的200+文件,为FSL提供及时和全面的调查。在这项调查中,我们审查了FSL的演变史以及目前的进展,将FSL方法分为基于基因化模型和基于歧视模式的样本,原则上特别强调基于FSL方法的元学。我们还总结了最近出现的FSL的一些扩展专题,并审查了这些专题的最新进展。我们强调FSL应用了计算机视野中的许多研究热点研究、自然语言分析以及我们最后研究、视听分析、视听分析的学习结果。

117
下载
关闭预览

相关内容

零样本文本分类,Zero-Shot Learning for Text Classification
专知会员服务
83+阅读 · 2020年5月31日
可解释强化学习,Explainable Reinforcement Learning: A Survey
专知会员服务
94+阅读 · 2020年5月14日
元学习(meta learning) 最新进展综述论文
专知会员服务
241+阅读 · 2020年5月8日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
114+阅读 · 2020年3月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
38+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
105+阅读 · 2019年10月12日
Hierarchically Structured Meta-learning
CreateAMind
14+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
12+阅读 · 2019年5月18日
小样本学习(Few-shot Learning)综述
PaperWeekly
119+阅读 · 2019年4月1日
强化学习的Unsupervised Meta-Learning
CreateAMind
8+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
9+阅读 · 2019年1月2日
RL 真经
CreateAMind
4+阅读 · 2018年12月28日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
Hierarchical Imitation - Reinforcement Learning
CreateAMind
16+阅读 · 2018年5月25日
Learning from Few Samples: A Survey
Arxiv
69+阅读 · 2020年7月30日
A Comprehensive Survey on Transfer Learning
Arxiv
107+阅读 · 2019年11月7日
Few-shot Learning: A Survey
Arxiv
347+阅读 · 2019年4月10日
Arxiv
11+阅读 · 2019年1月16日
Arxiv
44+阅读 · 2018年12月11日
Adversarial Transfer Learning
Arxiv
10+阅读 · 2018年12月6日
Arxiv
122+阅读 · 2018年10月8日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
VIP会员
相关VIP内容
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
14+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
12+阅读 · 2019年5月18日
小样本学习(Few-shot Learning)综述
PaperWeekly
119+阅读 · 2019年4月1日
强化学习的Unsupervised Meta-Learning
CreateAMind
8+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
9+阅读 · 2019年1月2日
RL 真经
CreateAMind
4+阅读 · 2018年12月28日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
Hierarchical Imitation - Reinforcement Learning
CreateAMind
16+阅读 · 2018年5月25日
相关论文
Learning from Few Samples: A Survey
Arxiv
69+阅读 · 2020年7月30日
A Comprehensive Survey on Transfer Learning
Arxiv
107+阅读 · 2019年11月7日
Few-shot Learning: A Survey
Arxiv
347+阅读 · 2019年4月10日
Arxiv
11+阅读 · 2019年1月16日
Arxiv
44+阅读 · 2018年12月11日
Adversarial Transfer Learning
Arxiv
10+阅读 · 2018年12月6日
Arxiv
122+阅读 · 2018年10月8日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Top
微信扫码咨询专知VIP会员