面向图像分类的小样本学习算法综述

目前,以深度学习为代表的人工智能算法凭借超大规模数据集以及强大的计算资源,在图像分类、生物特征识别、医疗 辅助诊断等领域取得了优秀的成果并成功落地.然而,在许多实际的应用场景中,因诸多限制,研究人员无法获取到大量样本 或者获取样本的代价过高,因此研究图像分类任务在小样本情形下的学习算法成为了推动智能化进程的核心动力,同时也成为 了当下的研究热点.小样本学习指在监督信息数量有限的情况下进行学习并解决问题的算法.首先,从机器学习理论的角度 描述了小样本学习困难的原因;其次,根据小样本学习算法的设计动机将现有算法归为表征学习、数据扩充、学习策略三大类, 并分析其优缺点;然后,总结了常用的小样本学习评价方法以及现有模型在公用数据集上的表现;最后,讨论了小样本图像分类 技术的难点及未来的研究趋势,为今后的研究提供参考。

近年来,人工智能技术在大数据时代迎来了高速发展,从 早期的学术探索迅速转变为实际应用.目前,以深度学习为 代表的人工智能算法凭借超大规模数据集以及强大的计算资 源,在图像分类、生物特征识别、医疗辅助诊断等领域取得了优秀的成果并成功落地. 然而,当今现实场景中通常并不具备获得大规模可训练 数据的条件,这不利于许多传统行业的智能化转型.另一方 面,由于图像分类算法在实际应用中起着关键性的作用,因此 面向图像分类的小样本学习的关键算法研究成为了产业智能 化转型的驱动引擎之一.

深度学习以大规模数据集为前提,在图像分类、目标检 测、文本分析[１Ｇ３]等领域取得了显著的成功.然而在实际场景 中,首先,由于成本、隐私、安全或道德问题,相关研究者很难 或不可能获得大规模、高质量的数据及标注.例如,在医疗领 域,医学影像的产生来源于病例,但少量的病例并不能够辅助 机器对医疗影像进行分析.其次,在算法设计层面,研究者期 望机器学会以人类的方式进行学习,即在获取少量样本的情 况下,对样本进行分类和识别,并且具有快速理解新概念并将 其泛化的能力. 为了能够在监督信息数量有限的情况下进行学习,针对 小样本学习(FewＧshotLearning)[４Ｇ８]的研究应运而生.在小 样本分类中,模型在一组具有丰富样本的类别集上进行训练, 这些类称为基类,然后在类别不交叉的仅具有少量样本的另 一组类别集(新类)上进行训练与测试.

目前,针对小样本学习的研究工作越来越丰富,随着深度 学习的发展,涌现了很多新颖的小样本学习方法[９Ｇ１１].例如, 在模型表征阶段采用自监督学习以更好地表征出图像[１２Ｇ１５]; 在数据 扩 充 阶 段,采 用 从 原 始 域 扩 充 或 从 语 义 空 间 扩 充 等[１１,１６Ｇ１７]方式来处理小样本学习任务;在学习阶段,使用迁移 学习、度量学习、元学习等算法[１８Ｇ２４]以更好地寻找到一个有 良好泛化能力的模型.现有的小样本综述文献[２５Ｇ２６]通常从 算法类别的角度进行归纳总结,而本文将从理论误差分析以 及算法设计 动 机 的 角 度 来 进 行 综 述,并 覆 盖 近 年 来 取 得 的 成果. 本文首先从机器学习理论的角度描述了小样本学习难以 泛化的原因;其次,依据小样本学习算法的设计动机将现有算 法归为表征学习、数据扩充、学习策略三大类,并评价其优缺 点;然后,总结了常用的小样本学习评价方法以及现有模型在 公用数据集上的表现;最后,提出了一些有前景的研究方向, 为今后的研究提供参考。