TPAMI 2021 | 首篇《课程学习》综述，清华大学朱文武团队

论文 1：A Survey on Curriculum Learning

作者：Xin Wang、 Yudong Chen、 Wenwu Zhu

论文链接：https://arxiv.org/pdf/2010.13166.pdf

摘要：课程学习是一种训练策略，它模仿了人类课程中有意义的学习顺序，从较容易的数据开始训练机器学习模型，并逐步加入较难的数据。课程学习策略作为一个易于使用的插件，在计算机视觉和自然语言处理等广泛的场景中，提高了模型的泛化能力和收敛速度。本文从动机、定义、理论和应用等各个方面全面回顾了课程学习。研究者在一个通用的课程学习框架中讨论课程学习方法，详细阐释如何设计一个预定义的课程或自动的课程。具体来说，研究者基于 “难度评分器 + 训练调度器” 的总体框架，总结了现有的课程学习设计，并进一步将自动课程学习的方法分为四类，即自步学习、基于迁移教师的课程学习、基于强化教师的课程学习、其他自动课程学习。最后，研究者简要讨论了课程学习与机器学习概念的联系，并指出了未来值得进一步研究的潜在方向。