基于响应的蒸馏用于增量目标检测
计算机视觉与模式识别
2021-10-27 v1
摘要
传统目标检测难以胜任增量学习。然而，仅在已训练好的检测模型上用新数据直接微调会导致灾难性遗忘。知识蒸馏是缓解灾难性遗忘的直接方法。在增量目标检测（IOD）中，已有工作主要关注特征级知识蒸馏，但检测器的不同响应尚未被充分探索。本文提出一种完全基于响应的增量蒸馏方法，专注于从检测边界框与分类预测中学习响应。首先，我们的方法在增量学习中迁移类别知识，并使学生对模型具备保留定位知识的能力。此外，我们进一步评估所有位置的质量，并通过自适应伪标签选择（APS）策略提供有价值的响应。最后，我们阐明在增量蒸馏中，来自不同响应的知识应被赋予不同重要性。在MS COCO上的大量实验证明了我们方法的显著优势，其大幅缩小了与全量训练的性能差距。
引用
@article{arxiv.2110.13471,
title = {Response-based Distillation for Incremental Object Detection},
author = {Tao Feng and Mang Wang},
journal= {arXiv preprint arXiv:2110.13471},
year = {2021}
}