面向目标检测的实例条件知识蒸馏
计算机视觉与模式识别
2022-01-07 v2
摘要
知识蒸馏在分类任务中已取得巨大成功，但在检测中仍具挑战性。在典型的检测图像中，不同位置的表征对检测目标的贡献可能不同，使得蒸馏难以平衡。本文提出一种条件蒸馏框架来蒸馏所需知识，即对每个实例在分类与定位上均有益的知识。该框架引入可学习的条件解码模块，以每个目标实例为查询检索信息。具体而言，我们将条件信息编码为查询，并以教师模型的表征作为键。查询与键之间的注意力用于衡量不同特征的贡献，并由定位-识别敏感的辅助任务引导。大量实验证明了方法的有效性：我们在多种设置下观察到显著提升。值得注意的是，在1x训练 schedule 下，我们将ResNet-50骨干的RetinaNet从37.4 mAP提升至40.7 mAP（+3.3），甚至超过了3x schedule下ResNet-101骨干的教师模型（40.4 mAP）。代码已发布于https://github.com/megvii-research/ICD。
引用
@article{arxiv.2110.12724,
title = {Instance-Conditional Knowledge Distillation for Object Detection},
author = {Zijian Kang and Peizhen Zhang and Xiangyu Zhang and Jian Sun and Nanning Zheng},
journal= {arXiv preprint arXiv:2110.12724},
year = {2022}
}
备注
Accepted by NeurIPS 2021