面向目标检测的空间感知自适应掩码知识蒸馏：SAMKD 框架
计算机视觉与模式识别
2025-03-25 v2
摘要
大多数近期注意力引导的特征掩码蒸馈方法通过全局教师注意力图进行知识传递，未深入探究细粒度线索。相反，在更细粒度上进行蒸馈有助于发现补充全局知识传递的局部细节，并重建完整的学生特征。本文提出一种面向目标检测的空间感知自适应掩码知识蒸馏 (SAMKD) 框架。与以往的特征蒸馈方法不同， 我们发展了空间层次化特征掩码蒸馈方案，使得在粗到细的蒸馈过程中编码对象感知的局部性，以提高特征重建效果。此外，我们的空间感知特征蒸馈策略与掩码 logit 蒸馈相结合，其中利用教师和学生网络之间区域特定特征差异来自适应引导蒸馈过程。因此，可以帮助学生模型更好地从教师模型学习，实现更有效的知识传递并缩小差距。大量检测任务的实验表明，我们方法的优越性。例如，当 FCOS 作为教师检测器且使用 ResNet101 背板时，我们的方法将学生网络的 mAP 从 35.3% 提升到 38.8%，超越包括 MGD、FreeKD 和 DMKD 在内的多种 SOTA 蒸馈方法。
引用
@article{arxiv.2501.07101,
title = {SAMKD: Spatial-aware Adaptive Masking Knowledge Distillation for Object Detection},
author = {Zhourui Zhang and Jun Li and Jiayan Li and Jianhua Xu},
journal= {arXiv preprint arXiv:2501.07101},
year = {2025}
}