DMKD：通过双重掩码增强改进基于特征的目标检测知识蒸馏
计算机视觉与模式识别
2023-09-08 v2
摘要
近期主流的掩码蒸馏方法通过从教师网络的特征图中重建被选择性掩码的学生网络区域来运作。在这些方法中，掩码区域需要被恰当选择，使得重建的特征能像教师特征一样编码充分的判别力与表征能力。然而，以往的掩码蒸馏方法仅关注空间掩码，导致所得掩码区域偏向空间重要性，而未能编码信息丰富的通道线索。在本研究中，我们设计了一种双重掩码知识蒸馏（DMKD）框架，能够同时捕获空间重要性与通道维度信息性线索，以实现全面的掩码特征重建。更具体地，我们采用双重注意力机制引导各自的掩码分支，使重建特征编码双重显著性。此外，重建特征的融合通过自适应权重策略实现，以进行有效特征蒸馏。我们在目标检测任务上的实验表明，当分别以 RetinaNet 和 Cascade Mask R-CNN 作为教师网络时，学生网络借助我们的方法分别获得 4.1% 和 4.3% 的性能提升，同时优于其他最先进（SOTA）蒸馏方法。
引用
@article{arxiv.2309.02719,
title = {DMKD: Improving Feature-based Knowledge Distillation for Object Detection Via Dual Masking Augmentation},
author = {Guang Yang and Yin Tang and Zhijian Wu and Jun Li and Jianhua Xu and Xili Wan},
journal= {arXiv preprint arXiv:2309.02719},
year = {2023}
}