题目: Multimodal Model Agnostic Meta-Learning via Task-Aware Modulation

简介:

模型不可知元学习者的目标是从相似的任务中获取元学习参数,以适应分布相同但梯度更新较少的新任务。由于模型选择的灵活性,这些框架在诸如少镜头图像分类和增强学习等多个领域表现出了良好的性能。然而,此类框架的一个重要限制是,它们寻求在整个任务分布中共享的公共初始化,这极大地限制了它们能够学习的任务分布的多样性。在本文中,我们增强了MAML的能力,以识别从多模式任务分布中采样的任务模式,并通过梯度更新快速适应。具体来说,我们提出了一个多模态MAML框架,该框架能够根据所识别的模式调整其元学习先验参数,从而实现更高效的快速适应。我们在一组不同的少镜头学习任务上对所提出的模型进行评估,包括回归、图像分类和强化学习。结果不仅证明了我们的模型在调整元学习先验以响应任务特征方面的有效性,而且表明了多模态分布的训练比单模态训练有更好的效果。

邀请嘉宾:

Risto Vuorio是密歇根大学Satinder Singh实验室的访问学者,致力于深度强化学习和终身学习,对开发新的增强学习算法并将其应用于新问题很感兴趣。

Shao-Hua Sun是南加利福尼亚大学(USC)计算机科学专业的三年级博士生,与Joseph J. Lim教授一起在视觉与机器人认知学习实验室(CLVR)担任Annenberg研究员。在加入USC之前,在国立台湾大学(NTU)电子工程系获得学士学位。研究兴趣横跨深度学习、计算机视觉、强化学习、元学习、机器人学习等领域。

成为VIP会员查看完整内容
23

相关内容

Meta Learning,元学习,也叫 Learning to Learn(学会学习)。是继Reinforcement Learning(增强学习)之后又一个重要的研究分支。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
元学习(meta learning) 最新进展综述论文
专知会员服务
275+阅读 · 2020年5月8日
深度强化学习策略梯度教程,53页ppt
专知会员服务
176+阅读 · 2020年2月1日
ICML2019《元学习》教程与必读论文列表
专知
41+阅读 · 2019年6月16日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
Meta-Learning 元学习:学会快速学习
专知
24+阅读 · 2018年12月8日
Arxiv
9+阅读 · 2019年4月19日
Arxiv
4+阅读 · 2019年4月3日
Arxiv
26+阅读 · 2019年3月5日
Arxiv
135+阅读 · 2018年10月8日
VIP会员
相关VIP内容
元学习(meta learning) 最新进展综述论文
专知会员服务
275+阅读 · 2020年5月8日
深度强化学习策略梯度教程,53页ppt
专知会员服务
176+阅读 · 2020年2月1日
相关论文
Arxiv
9+阅读 · 2019年4月19日
Arxiv
4+阅读 · 2019年4月3日
Arxiv
26+阅读 · 2019年3月5日
Arxiv
135+阅读 · 2018年10月8日
微信扫码咨询专知VIP会员