Meta-Learning 元学习:学会快速学习

2018 年 12 月 8 日 GAN生成式对抗网络

来源:专知

【导读】元学习,也称为学习学习,旨在通过一些训练少量样本可以学习新技能或快速适应新环境的模型。有三种常见的方法:1)学习有效的距离度量(基于度量); 2)使用(循环)网络与外部或内部存储器(基于模型); 3)明确优化模型参数以进行快速学习(基于优化)。

良好的机器学习模型通常需要使用大量样本进行训练。相比之下,人类能够更快,更有效地学习新的概念和技能。只看过几次猫和鸟的孩子可以很快分辨它们;会骑自行车的人很快就能上手摩托车。是否有可能通过一些训练少量样本快速设计出具有类似属性的机器学习模型?这就是元学习旨在解决的问题。

一个良好的元学习模型能够很好地推广到在训练期间从未遇到过的新任务和新环境。最终,改编的模型可以完成新任务。这就是元学习也被称为学习如何学习学习的原因。

任务可以是任何明确定义的机器学习问题系列:监督学习,强化学习等。例如,这里有几个具体的元学习任务:

本文将分为两部分,第一部分主要介绍元学习的定义基于度量的元学习,第二部分介绍基于模型和基于优化的元学习,尽情期待!

元学习问题的定义


一个简单的视角

一个好的元学习模型应该在各种学习任务上进行训练,并针对任务进行优化。 每个任务都与数据集相关联,数据集包含特征向量和真实标签。 最佳模型参数是:

它看起来与正常学习任务非常相似,但是一个数据集被视为一个数据样本。

Few-shot classification是监督学习领域中元学习的实例。 数据集通常被分成两部分,一个用于学习的支持集\和一个用于训练或测试的预测集,。 我们经常考虑K-shot N-class分类任务:支持集包含N个类中每个类别的K个标记示例。


数据集包含特征向量和标签对,并且每个标签属于已知标签集L假设我们的分类参数出属于该数据点的数据点的概率。 给定特征向量的类y

最佳参数应最大化真实标签的概率

Few-shot classification中,目标是给定“快速学习”的小数据集,减少预测误差。 我们希望使用标签子集“伪造”数据集,以避免将所有标签暴露给模型并相应地修改优化过程以鼓励快速学习:

  • 对标签子集进行采样。

  • 对支持集和训练batch进行采样。 它们都只包含带有属于采样标签集的标签的数据点。

  • 支持集是模型输入的一部分。

  • 最终的优化使用小批量计算损失并通过反向传播更新模型参数,就像在监督学习中一样。


每对采样数据集可以视为一个数据点。 完成对模型训练之后,它可以推广到其他数据集。 


该想法在某种程度上类似于仅有一组特定数据样本可用时,在图像分类(ImageNet)或语言建模(大文本语料库)中使用预训练模型。 元学习将这一想法更进一步,但是它不是根据一个下行任务进行微调,而是靠优化模型。

Learner和Meta-Learner

元学习的另一种流行观点将模型更新分解为两个阶段:

  • 分类器 是训练用于操作给定任务的“学习者”模型; 与此同时,优化器gφ学习如何通过支持集更新学习者模型的参数

  • 然后在最后的优化步骤中,我们需要更新θ和φ以最大化

常见方法


元学习有三种常用方法:基于度量,基于模型和基于优化。 Oriol Vinyals在他NIPS 2018的演讲中有一个很好的总结:


是测量间两者相似性的核函数。

接下来我们将回顾每种方法中的经典模型。

基于度量的元学习


基于度量的元学习中的核心思想类似于最近邻算法(即,k-NN分类器和k均值聚类)和核密度估计。 一组已知标签 上的预测概率是支持集样本的标签的加权和。 权重由核函数 生成,测量两个数据样本之间的相似性。

学习一个好的内核对于基于度量的元学习模型的成功至关重要。度量学习与此意图完全一致,因为它旨在学习对象的度量或距离函数。良好指标的概念取决于问题。它应该代表任务空间中输入之间的关系,并促进解决问题。

下面介绍的所有模型都明确地学习了输入数据的嵌入向量,并使用它们来设计适当的核函数。

卷积Siamese神经网络

Siamese神经网络由两个网络组成,它们的输出在顶部联合训练,具有学习输入数据样本对之间关系的功能。两个网络是相同的,共享相同的权重和网络参数。换句话说,两者都指的是学习有效嵌入以揭示数据点对之间的关系的相同嵌入网络。

Koch,Zemel和Salakhutdinov(2015)提出了一种使用暹罗神经网络进行一次性图像分类的方法。首先,训练暹罗网络进行验证任务,以判断两个输入图像是否在同一类中。它输出属于同一类的两个图像的概率。然后,在测试时间期间,暹罗网络处理测试图像与支持集中的每个图像之间的所有图像对。最终预测是具有最高概率的支持图像的类。

  • 首先,卷积Siamese网络学习通过包含一对卷积层的嵌入函数将两个图像编码成特征向量。

  • 两个嵌入之间的L1距离是

  • 通过线性前馈层和Sigmoid将距离转换为概率p.

  • 它是从同一个类中抽取两个图像的概率。 直观地说,损失是交叉熵,因为标签是二元的。

当然,您可以将L1距离替换为其他距离度量,L2,余弦等。只需确保它们是差分,然后其他所有都相同。

给定支持集和测试图像,最终预测类是:

假设可以推广学习嵌入以用于测量未知类别的图像之间的距离。 通过采用预先训练的模型,这与迁移学习背后的假设相同; 例如,在使用ImageNet预训练的模型中学习的卷积特征有望帮助其他图像任务。 然而,当新任务偏离模型训练的原始任务时,预训练模型的益处减少。

匹配网络

匹配网络的任务是为任何给定(小)支持集(k-shot分类)学习分类器 在给定测试示例x的情况下,此分类器定义输出标签的概率分布。 与其他基于度量的模型类似,分类器输出被定义为由注意内核加权的支持样本的标签之和。


注意核依赖于两个嵌入函数f和g,分别用于编码测试样本和支持集样本。 两个数据点之间的注意力权重是它们的嵌入向量之间的余弦相似度,,由softmax标准化:

完整的上下文嵌入

嵌入向量是构建良好分类器的关键输入。 将单个数据点作为输入可能不足以有效地测量整个特征空间。 因此,匹配网络模型进一步提出通过将除了原始输入之外的整个支持集S作为输入来增强嵌入功能,使得可以基于与其他支持样本的关系来调整学习嵌入。

  • 使用双向LSTM在整个支持集S的上下文中编码

  • 将测试样本LSTM编码,并在支持集S上进行读取注意力。

  • 首先,测试样本通过简单的神经网络(例如CNN)来提取基本特征


然后,作为隐藏状态的一部分,在支持集上使用读取注意向量训练LSTM:

该嵌入方法称为“全上下文嵌入(FCE)”。 有趣的是,它确实有助于提高硬任务的性能(在ImageNet上进行少量分类),但在简单任务上没有任何区别。

匹配网络中的训练过程旨在匹配测试时的推理。 值得一提的是,匹配网络论文改进了训练和测试条件应该匹配的想法。

关系网络

关系网络与Siamese网络类似,但有一些差异:该关系不是由特征空间中的简单L1距离获得,而是由CNN分类器测。 一对输入间的关系得分是其中连接。不是交叉熵,因为概念上关系网络更侧重于预测关系分数,更像是回归,而不是二元分类,

原型网络

原型网络使用嵌入函数将每个输入编码为M维特征向量。 为每个类定义原型特征向量,作为该类中嵌入的支持数据样本的平均向量。

给定测试输入x的类上的分布是在测试数据嵌入和原型向量之间的距离的倒数上的softmax。

其中dφ可以是任何距离函数,只要φ是可微分的。 在论文中,他们使用了欧氏距离平方。


损失函数是负对数似然

原文链接:

https://lilianweng.github.io/lil-log/2018/11/30/meta-learning.html


高质量延伸阅读

☞ OpenPV平台发布在线的ParallelEye视觉任务挑战赛

【学界】第1届“智能车辆中的平行视觉”研讨会成功举行

【学界】生成式对抗网络:从生成数据到创造智能

【学界】OpenPV:中科院研究人员建立开源的平行视觉研究平台

【学界】基于平行视觉的特定场景下行人检测

【学界】ParallelEye:面向交通视觉研究构建的大规模虚拟图像集

【CFP】Virtual Images for Visual Artificial Intelligence

【最详尽的GAN介绍】王飞跃等:生成式对抗网络 GAN 的研究进展与展望

【智能自动化学科前沿讲习班第1期】王飞跃教授:生成式对抗网络GAN的研究进展与展望

【智能自动化学科前沿讲习班第1期】王坤峰副研究员:GAN与平行视觉

【重磅】平行将成为一种常态:从SimGAN获得CVPR 2017最佳论文奖说起

【平行讲坛】平行图像:图像生成的一个新型理论框架

【学界】基于生成对抗网络的低秩图像生成方法

【学界】Ian Goodfellow等人提出对抗重编程,让神经网络执行其他任务

【学界】六种GAN评估指标的综合评估实验,迈向定量评估GAN的重要一步

【资源】T2T:利用StackGAN和ProGAN从文本生成人脸

【学界】 CVPR 2018最佳论文作者亲笔解读:研究视觉任务关联性的Taskonomy

【业界】英特尔OpenVINO™工具包为创新智能视觉提供更多可能

【学界】ECCV 2018: 对抗深度学习: 鱼 (模型准确性) 与熊掌 (模型鲁棒性) 能否兼得 


登录查看更多
18

相关内容

Meta Learning,元学习,也叫 Learning to Learn(学会学习)。是继Reinforcement Learning(增强学习)之后又一个重要的研究分支。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
元学习(meta learning) 最新进展综述论文
专知会员服务
241+阅读 · 2020年5月8日
【Google-CMU】元伪标签的元学习,Meta Pseudo Labels
专知会员服务
30+阅读 · 2020年3月30日
【浙江大学】使用MAML元学习的少样本图分类
专知会员服务
58+阅读 · 2020年3月22日
【Uber AI新论文】持续元学习,Learning to Continually Learn
专知会员服务
30+阅读 · 2020年2月27日
专知会员服务
75+阅读 · 2020年1月20日
机器也能学会如何学习?——元学习介绍
AINLP
16+阅读 · 2019年9月22日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
入门 | 从零开始,了解元学习
机器之心
17+阅读 · 2018年5月6日
学习如何学习的算法:简述元学习研究方向现状
深度学习世界
5+阅读 · 2018年4月9日
已删除
将门创投
8+阅读 · 2017年7月21日
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
40+阅读 · 2020年2月27日
Meta-Learning to Cluster
Arxiv
15+阅读 · 2019年10月30日
Meta-Learning with Implicit Gradients
Arxiv
9+阅读 · 2019年9月10日
Arxiv
7+阅读 · 2019年4月19日
Arxiv
22+阅读 · 2019年3月5日
Arxiv
122+阅读 · 2018年10月8日
Arxiv
7+阅读 · 2018年6月8日
Arxiv
6+阅读 · 2018年3月19日
VIP会员
相关VIP内容
元学习(meta learning) 最新进展综述论文
专知会员服务
241+阅读 · 2020年5月8日
【Google-CMU】元伪标签的元学习,Meta Pseudo Labels
专知会员服务
30+阅读 · 2020年3月30日
【浙江大学】使用MAML元学习的少样本图分类
专知会员服务
58+阅读 · 2020年3月22日
【Uber AI新论文】持续元学习,Learning to Continually Learn
专知会员服务
30+阅读 · 2020年2月27日
专知会员服务
75+阅读 · 2020年1月20日
相关资讯
机器也能学会如何学习?——元学习介绍
AINLP
16+阅读 · 2019年9月22日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
入门 | 从零开始,了解元学习
机器之心
17+阅读 · 2018年5月6日
学习如何学习的算法:简述元学习研究方向现状
深度学习世界
5+阅读 · 2018年4月9日
已删除
将门创投
8+阅读 · 2017年7月21日
相关论文
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
40+阅读 · 2020年2月27日
Meta-Learning to Cluster
Arxiv
15+阅读 · 2019年10月30日
Meta-Learning with Implicit Gradients
Arxiv
9+阅读 · 2019年9月10日
Arxiv
7+阅读 · 2019年4月19日
Arxiv
22+阅读 · 2019年3月5日
Arxiv
122+阅读 · 2018年10月8日
Arxiv
7+阅读 · 2018年6月8日
Arxiv
6+阅读 · 2018年3月19日
Top
微信扫码咨询专知VIP会员