Teach-DETR：借助教师检测器更好地训练 DETR
计算机视觉与模式识别
2022-11-24 v2
摘要
在本文中，我们提出一种新颖的训练方案，即 Teach-DETR，以从多功能的教师检测器学习更好的基于 DETR 的检测器。我们表明，教师检测器预测框是迁移教师检测器知识的有效媒介，这些教师检测器可以是基于 RCNN 或基于 DETR 的检测器，用于训练更准确和鲁棒的 DETR 模型。这一新训练方案可轻松整合来自多个教师检测器的预测框，每个教师检测器向学生 DETR 提供并行监督。我们的策略不引入额外参数，并在训练期间为原始检测器增加可忽略的计算成本。在推理时，Teach-DETR 带来零额外开销并保持无需非极大值抑制的优点。大量实验表明，我们的方法对各种基于 DETR 的检测器带来一致提升。具体而言，我们将基于 Swin-Large 骨干、4 尺度特征图和 36 轮训练计划的当前最优检测器 DINO 在 MSCOCO 2017 验证集上的平均精度从 57.8% 提升至 58.9%。代码将发布于 https://github.com/LeonHLJ/Teach-DETR。
引用
@article{arxiv.2211.11953,
title = {Teach-DETR: Better Training DETR with Teachers},
author = {Linjiang Huang and Kaixin Lu and Guanglu Song and Liang Wang and Si Liu and Yu Liu and Hongsheng Li},
journal= {arXiv preprint arXiv:2211.11953},
year = {2022}
}