题目: Multimodal Model Agnostic Meta-Learning via Task-Aware Modulation
简介:
模型不可知元学习者的目标是从相似的任务中获取元学习参数,以适应分布相同但梯度更新较少的新任务。由于模型选择的灵活性,这些框架在诸如少镜头图像分类和增强学习等多个领域表现出了良好的性能。然而,此类框架的一个重要限制是,它们寻求在整个任务分布中共享的公共初始化,这极大地限制了它们能够学习的任务分布的多样性。在本文中,我们增强了MAML的能力,以识别从多模式任务分布中采样的任务模式,并通过梯度更新快速适应。具体来说,我们提出了一个多模态MAML框架,该框架能够根据所识别的模式调整其元学习先验参数,从而实现更高效的快速适应。我们在一组不同的少镜头学习任务上对所提出的模型进行评估,包括回归、图像分类和强化学习。结果不仅证明了我们的模型在调整元学习先验以响应任务特征方面的有效性,而且表明了多模态分布的训练比单模态训练有更好的效果。
邀请嘉宾:
Risto Vuorio是密歇根大学Satinder Singh实验室的访问学者,致力于深度强化学习和终身学习,对开发新的增强学习算法并将其应用于新问题很感兴趣。
Shao-Hua Sun是南加利福尼亚大学(USC)计算机科学专业的三年级博士生,与Joseph J. Lim教授一起在视觉与机器人认知学习实验室(CLVR)担任Annenberg研究员。在加入USC之前,在国立台湾大学(NTU)电子工程系获得学士学位。研究兴趣横跨深度学习、计算机视觉、强化学习、元学习、机器人学习等领域。