近年来,深度神经网络如卷积神经网络(CNN)和transformers 在图像分类方面取得了许多成功。一直以来,图像分类的最佳实践是在丰富的标签数据上训练大型深度模型。然而,在许多现实场景中,需要大量的训练数据才能获得最佳性能,这是无法满足的。在这些情况下,迁移学习可以帮助提高性能。到目前为止,还没有关于深度迁移学习与图像分类的全面研究。然而,最近一些关于深度迁移学习的一般性研究和一些与特定目标图像分类任务相关的研究已经发表。我们相信,对该领域未来的进展来说,整理当前的所有知识,分析和讨论总体模式是很重要的。在本研究中,我们正式定义了深度迁移学习以及它试图解决的与图像分类有关的问题。我们调查该领域的当前状态,并确定最近取得的进展。我们展示了当前知识的空白所在,并就如何推进该领域以填补这些空白提出建议。我们提出了一个新的分类方法的应用迁移学习图像分类。这种分类更容易看出迁移学习在哪些方面是有效的,在哪些方面没有发挥其潜力。这也使我们能够提出问题所在,以及如何更有效地使用它。我们证明,在这种新的分类下,考虑到源和目标数据集以及所使用的技术,迁移学习被证明无效甚至阻碍性能的许多应用程序都是可以预期的。在许多这种情况下,关键问题是为大型和非常相似的目标数据集设计的方法和超参数设置用于较小的和不太相似的目标数据集。我们确定可以带来更好结果的替代选择。

成为VIP会员查看完整内容
24

相关内容

作为一种新的分类方法,深度学习最近受到研究人员越来越多的关注,并已成功应用到诸多领域。在某些类似生物信息和机器人的领域,由于数据采集和标注费用高昂,构建大规模的标注良好的数据集非常困难,这限制了这些领域的发展。迁移学习放宽了训练数据必须与测试数据独立同分布的假设,因此使用迁移学习来解决训练数据不足的问题。
零样本文本分类,Zero-Shot Learning for Text Classification
专知会员服务
95+阅读 · 2020年5月31日
计算机视觉中深度迁移学习,165页PPT
专知
20+阅读 · 2019年8月18日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
【干货】李沐等人:CNN图像分类Trick合集(附详细代码)
GAN生成式对抗网络
57+阅读 · 2018年12月11日
基于深度迁移学习进行时间序列分类
PaperWeekly
14+阅读 · 2018年11月15日
Image Captioning 36页最新综述, 161篇参考文献
专知
89+阅读 · 2018年10月23日
【迁移学习】迁移学习在图像分类中的简单应用策略
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
7+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Arxiv
17+阅读 · 2020年11月15日
A survey on deep hashing for image retrieval
Arxiv
14+阅读 · 2020年6月10日
Arxiv
16+阅读 · 2020年5月20日
Arxiv
12+阅读 · 2019年3月14日
Arxiv
53+阅读 · 2018年12月11日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Arxiv
20+阅读 · 2018年1月17日
VIP会员
相关VIP内容
零样本文本分类,Zero-Shot Learning for Text Classification
专知会员服务
95+阅读 · 2020年5月31日
相关基金
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
7+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
相关论文
Arxiv
17+阅读 · 2020年11月15日
A survey on deep hashing for image retrieval
Arxiv
14+阅读 · 2020年6月10日
Arxiv
16+阅读 · 2020年5月20日
Arxiv
12+阅读 · 2019年3月14日
Arxiv
53+阅读 · 2018年12月11日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Arxiv
20+阅读 · 2018年1月17日
微信扫码咨询专知VIP会员