元学习 - 专知主题

会员服务 ·

元学习

关注 1918

Meta Learning，元学习，也叫 Learning to Learn（学会学习）。是继Reinforcement Learning（增强学习）之后又一个重要的研究分支。

知识荟萃

综述

Meta-Learning: A Survey
- 简介: 29页较全的元学习综述，包含2018年及之前的元学习研究综述
- 链接: https://arxiv.org/pdf/1810.03548.pdf
Meta-learning algorithms for Few-Shot Computer Vision
- 简介: 35页计算机视觉小样本元学习综述，包含2019年及之前的相关研究信息。
- 链接: https://arxiv.org/pdf/1903.02268.pdf
Metalearning: a survey of trends and technologies
- 简介: 早期的元学习综述，包含了2013年及之前的研究综述。
- 链接: https://link.springer.com/article/10.1007/s10462-013-9406-y

基础算法

Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
- 简介: 经典元学习算法
- 缩写: MAML
- 链接: https://arxiv.org/pdf/1703.03400.pdf
- 代码: https://github.com/cbfinn/maml
Reptile: a Scalable Metalearning Algorithm
- 简介: 经典元学习算法
- 缩写: Reptile
- 链接: https://d4mucfpksywv.cloudfront.net/research-covers/reptile/reptile_update.pdf
Fast Context Adaptation via Meta-Learning
- 简介: MAML的扩展，更容易避免元过拟合，更容易并行化，且更具有可解释性。它将模型参数划分为共享参数和上下文参数，仅更新上下文参数来适配具体任务。
- 缩写: CAVIA
- 链接: https://arxiv.org/pdf/1810.03642.pdf
Adversarial Meta-Learning
- 简介: 使用对抗样本和对抗学习来优化元学习模型
- 链接: https://arxiv.org/pdf/1806.03316.pdf
Gradient-Based Meta-Learning with Learned Layerwise Metric and Subspace
- 简介: 学习梯度下降的子空间
- 链接: https://arxiv.org/abs/1801.05558
Reconciling meta-learning and continual learning with online mixtures of tasks
- 简介: 用层次贝叶斯来选择基于梯度下降的元学习模型的参数
- 链接: https://arxiv.org/pdf/1812.06080.pdf
MetaGAN: An Adversarial Approach to Few-Shot Learning
- 简介: 引入MAML对一种基于GAN的半监督学习方法进行改进，使其更适用于小样本场景
- 缩写: MetaGAN
- 链接: http://papers.nips.cc/paper/7504-metagan-an-adversarial-approach-to-few-shot-learning.pdf
Auto-Meta: Automated Gradient Based Meta Learner Search
- 简介: 用神经结构搜索（NAS）来优化元学习器的结构。
- 链接: https://arxiv.org/pdf/1806.06927.pdf
Learned Optimizers that Scale and Generalize
- 简介: 用层次RNN和元优化来构建泛化模型
- 链接: https://arxiv.org/pdf/1703.04813.pdf

元强化学习

Generalizing Skills with Semi-Supervised Reinforcement Learning
- 简介: 在强化学习中用半监督学习解决未知奖励问题
- 链接: https://arxiv.org/pdf/1612.00429.pdf

应用

视觉应用

FIGR: Few-shot Image Generation with Reptile
- 简介: 用小样本训练GAN生成MNIST、Omniglot、FIGR-8数据集的图片
- 缩写: FIGR
- 链接: https://arxiv.org/pdf/1901.02199.pdf
Fast Parameter Adaptation for Few-shot Image Captioning and Visual Question Answering
- 简介: 小样本图像描述和视觉问答
- 链接: https://xuanyidong.com/resources/papers/ACM-MM-18-FPAIT.pdf