Deep learning-based approaches have shown remarkable performance in the 3D object detection task. However, they suffer from a catastrophic performance drop on the originally trained classes when incrementally learning new classes without revisiting the old data. This "catastrophic forgetting" phenomenon impedes the deployment of 3D object detection approaches in real-world scenarios, where continuous learning systems are needed. In this paper, we study the unexplored yet important class-incremental 3D object detection problem and present the first solution - SDCoT, a novel static-dynamic co-teaching method. Our SDCoT alleviates the catastrophic forgetting of old classes via a static teacher, which provides pseudo annotations for old classes in the new samples and regularizes the current model by extracting previous knowledge with a distillation loss. At the same time, SDCoT consistently learns the underlying knowledge from new data via a dynamic teacher. We conduct extensive experiments on two benchmark datasets and demonstrate the superior performance of our SDCoT over baseline approaches in several incremental learning scenarios.


翻译:深层次的学习方法在 3D 对象探测任务中表现出了显著的绩效。 但是,当在不重复旧数据的情况下逐步学习新课程时,它们在最初培训的班级上遭受灾难性的性能下降。 这种“灾难性的遗忘”现象阻碍了在现实世界情景中部署3D对象探测方法,在现实情景中需要不断学习系统。 在本文中,我们研究了尚未探索但重要的3D级级对象探测问题,并提出了第一个解决方案 — SDCot, 这是一种新颖的静态动力联合教学方法。 我们的SDCot通过静态教师缓解了旧班的灾难性遗忘,这为新样本中的旧班级提供了假的注释,并通过提取以前的知识以蒸馏损失来规范当前模型。 与此同时,SDCot 持续通过动态教师从新数据中学习基本知识。 我们在两个基准数据集上进行了广泛的实验,并展示了我们SDCot在几个递增学习情景中的基线方法上的优异性表现。

0
下载
关闭预览

相关内容

专知会员服务
109+阅读 · 2020年6月26日
3D目标检测进展综述
专知会员服务
188+阅读 · 2020年4月24日
[综述]深度学习下的场景文本检测与识别
专知会员服务
77+阅读 · 2019年10月10日
机器学习入门的经验与建议
专知会员服务
91+阅读 · 2019年10月10日
RoBERTa中文预训练模型:RoBERTa for Chinese
PaperWeekly
57+阅读 · 2019年9月16日
灾难性遗忘问题新视角:迁移-干扰平衡
CreateAMind
17+阅读 · 2019年7月6日
强化学习三篇论文 避免遗忘等
CreateAMind
19+阅读 · 2019年5月24日
Hierarchically Structured Meta-learning
CreateAMind
23+阅读 · 2019年5月22日
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
11+阅读 · 2018年3月15日
Arxiv
6+阅读 · 2021年11月12日
Arxiv
12+阅读 · 2021年6月21日
Augmentation for small object detection
Arxiv
11+阅读 · 2019年2月19日
Arxiv
7+阅读 · 2018年12月5日
VIP会员
相关VIP内容
Top
微信扫码咨询专知VIP会员