【导读】元学习是近几年来AI最热的研究方向之一,它可以学习如何去学习,因此可以被应用于小样本学习等场景。Uber AI(优步人工智能)的高级研究经理Jeff Clune在NeurIPS 2019上做了关于元学习的教程。
地址:http://metalearning.ml/2019/
深度学习很好地解决了传统AI中特征工程的问题,用深度网络自动提取特征取代了大量繁琐的人工特征设计,使得我们可以基于标注数据有监督地训练出高性能的AI模型。然而,由于许多深度学习模型的训练需要依赖在目标任务上的大量人工标注,这些模型并不能很好地适应小样本、多任务等场景。
元学习(Meta-Learning)方法学习如何去学习(Learning to Learn)。例如,通过Learning to Learn,一些元学习模型可以基于少量的样本和较少的学习步骤学习可用的模型,并且,这些元学习模型具有泛化性,可在不同的任务上进行元学习。
在NeurIPS 2019上,Uber AI(优步人工智能)的高级研究经理Jeff Clune做了关于元学习的92页教程《How Meta-Learning Could Help Us Accomplish Our Grandest AI Ambitions, and Early, Exotic Steps in that Direction》,总结了目前元学习的一些发展情况。
教程内容大致如下:
人工是否是强大AI最快的方法?
AI生成算法
元学习
三个支柱
元学习架构
元学习算法
生成环境
外来元学习算法
生成式教学网络
可微赫布可塑性
可微神经模块赫布可塑性
ANMML
POET
教程部分截图如下所示:
参考链接:
http://www.cs.uwyo.edu/~jeffclune/share/2019_12_13_NeurIPS_Metalearning.pdf