目标检测的双特征掩码分阶段知识蒸馏：DFMSD
计算机视觉与模式识别
2024-07-19 v1
摘要
近年来，当前主流的特征掩码蒸馈方法主要通过学生网络从教师网络的特征图中重建选定被掩码的区域。这些方法中，注意力机制有助于识别空间上重要区域和关键目标感知通道线索，从而使重建的特征在判别性和表征能力方面与教师特征相当。然而，之前的特征掩码蒸馈方法主要解决同质知识蒸馈，未充分考虑异质知识蒸馈场景。特别是，在异质蒸馈范式中，教师和学生框架之间的巨大差异对特征掩码造成不利影响，导致重建的学生特征恶化。本研究提出一种新的双特征掩码异质蒸馈框架，称为DFMSD，用于目标检测。具体而言，嵌入双特征掩码框架中，Incorporate了阶段性适应性学习模块，从而使学生模型能够逐步适应教师模型，以弥合异构网络之间的差距。此外，将掩码增强策略与阶段性学习结合，以适当加强对象感知掩码区域，以提高特征掩码重建。在每个特征金字塔网络(FPN)层之间执行语义对齐，以生成一致的特征分布。我们的实验在目标检测任务上表明，DFMSD方法值得期待，表明DFMSD在性能上超过了当前最先进的异质和同质蒸馈方法。
引用
@article{arxiv.2407.13147,
title = {DFMSD: Dual Feature Masking Stage-wise Knowledge Distillation for Object Detection},
author = {Zhourui Zhang and Jun Li and Zhijian Wu and Jifeng Shen and Jianhua Xu},
journal= {arXiv preprint arXiv:2407.13147},
year = {2024}
}