OD-DETR：用于稳定检测变换器训练的在线知识蒸馏
计算机视觉与模式识别
2024-06-11 v1
摘要
检测变换器 (DETR) 由于其通用架构、高准确率和无需后处理而成为主导范式，但受限于不稳定的训练动力学，收敛速度慢于基于 CNN 的检测器。本文通过在线知识蒸馏来稳定 DETR 训练。该方法利用由指数移动平均 (EMA) 累积的教师模型，将其知识蒸馈至在线模型，具体包括以下三个方面：首先，利用教师中对象查询与地面实况 (GT) 框之间的匹配关系来指导学生，使得学生中的查询不仅基于自身预测分配标签，还参考教师的匹配结果；其次，将教师的初始查询提供给在线学生，其预测受制于教师的相应输出；最后，使用教师不同解码阶段的对象查询构建辅助组以加速收敛。对于每个 GT，选取匹配代价最小的两个查询组成该额外组成，预测 GT 框并参与优化。大量实验表明，所提出的 OD-DETR 成功稳定了训练，显著提升性能且不增加额外参数。
引用
@article{arxiv.2406.05791,
title = {OD-DETR: Online Distillation for Stabilizing Training of Detection Transformer},
author = {Shengjian Wu and Li Sun and Qingli Li},
journal= {arXiv preprint arXiv:2406.05791},
year = {2024}
}
备注
IJCAI24