面向检测器的聚焦与全局知识蒸馏
计算机视觉与模式识别
2022-03-10 v2
摘要
知识蒸馏已成功应用于图像分类。然而，目标检测更为复杂，多数知识蒸馏方法在其上失效。本文指出，在目标检测中，教师与学生特征在不同区域差异显著，尤其在前背景之间。若同等蒸馏，特征图间的不均衡差异将对蒸馏产生负面影响。为此，我们提出聚焦与全局蒸馏 (FGD)。聚焦蒸馏分离前景与背景，迫使学生关注教师的关键像素与通道。全局蒸馏重建不同像素间的关系并将其从教师传递给学生，弥补聚焦蒸馏缺失的全局信息。由于本方法仅需在特征图上计算损失，FGD 可应用于各类检测器。我们在多种不同骨干网络的检测器上实验，结果表明学生检测器取得优异的 mAP 提升。例如，基于 ResNet-50 的 RetinaNet、Faster RCNN、RepPoints 和 Mask RCNN 采用我们的蒸馏方法在 COCO2017 上分别达到 40.7%、42.0%、42.0% 和 42.1% mAP，较基线分别高出 3.3、3.6、3.4 和 2.9。我们的代码见 https://github.com/yzd-v/FGD。
引用
@article{arxiv.2111.11837,
title = {Focal and Global Knowledge Distillation for Detectors},
author = {Zhendong Yang and Zhe Li and Xiaohu Jiang and Yuan Gong and Zehuan Yuan and Danpei Zhao and Chun Yuan},
journal= {arXiv preprint arXiv:2111.11837},
year = {2022}
}
备注
Accept by CVPR 2022