基于细粒度特征模仿的目标检测器蒸馏
计算机视觉与模式识别
2019-10-31 v1 人工智能
机器学习
摘要
最先进的基于 CNN 的识别模型在计算上往往难以部署在低端设备上。解决该限制的一种有前景的高层方法是知识蒸馏，它让小型学生模型模仿笨重教师模型的输出以获得改进的泛化能力。然而，相关方法主要关注分类这一简单任务，而未考虑如目标检测等复杂任务。我们表明将原始的（vanilla）知识蒸馏应用于检测模型仅带来微小增益。为应对检测模型中知识蒸馏的挑战，我们提出一种利用特征响应跨位置差异的细粒度特征模仿方法。我们的直觉是检测器更关注靠近物体的局部区域。因此，靠近物体锚点位置上的特征响应差异揭示了教师模型如何倾向于泛化的重要信息。我们设计了一种新颖机制来估计这些位置，并让学生模型在其上模仿教师以获增强性能。我们首先在开发的轻量级玩具检测器上验证该想法，该检测器携带当前最先进基于锚点的检测模型的最简概念，在具挑战性的 KITTI 数据集上，相较未模仿的对应模型，我们的方法为学生模型带来高达 15% 的 mAP 提升。随后我们在 Pascal VOC 和 COCO 通用目标检测基准下，用 Faster R-CNN 模型在各种场景中广泛评估该方法，模仿相较教师模型为学生模型减轻高达 74% 的性能下降。代码发布于 https://github.com/twangnh/Distilling-Object-Detectors
引用
@article{arxiv.1906.03609,
title = {Distilling Object Detectors with Fine-grained Feature Imitation},
author = {Tao Wang and Li Yuan and Xiaopeng Zhang and Jiashi Feng},
journal= {arXiv preprint arXiv:1906.03609},
year = {2019}
}
备注
accepted at CVPR2019 code:https://github.com/twangnh/Distilling-Object-Detectors