【NeurIPS 2021】通过元学习优化可重用知识实现持续学习

随着时间的推移，当学习任务时，人工神经网络会遇到一个被称为“灾难性遗忘”(CF)的问题。当网络的权值在训练新任务时被覆盖，导致旧信息的遗忘时，就会发生这种情况。为了解决这个问题，我们提出了MetA可重用知识(MetA Reusable Knowledge)或MARK，这是一种新的方法，可以在学习新任务时促进权重可重用性，而不是覆盖。具体来说，MARK在任务之间保持了一组共享权重。我们将这些共享权重设想为一个公共知识库(KB)，该知识库不仅用于学习新任务，而且在模型学习新任务时还包含新知识。MARK背后的关键组件有两个方面。一方面，元学习方法提供了用新知识逐步丰富知识库和促进任务间权重重用的关键机制。另一方面，一组可训练掩码提供了从知识库中选择性地选择相关权值来解决每个任务的关键机制。通过使用MARK，我们在几个流行的基准测试中获得了最先进的结果，在20-Split-MiniImageNet数据集上的平均准确率超过了最好的方法10%，同时使用55%的参数实现了几乎零遗忘。此外，一项消融研究提供了证据，确实，MARK正在学习可重复使用的知识，这些知识被每个任务选择性地使用。

https://www.zhuanzhi.ai/paper/89cb66846a530b677239d3342e987185