用于目标检测的对偶关系知识蒸馏
计算机视觉与模式识别
2023-06-02 v2
摘要
知识蒸馏是一种有效的模型压缩方法。然而，将知识蒸馏应用于检测任务仍是一个具有挑战性的课题。导致检测任务蒸馏性能不佳有两个关键点。其一是前景与背景特征之间的严重不平衡，其二是小目标缺乏足够的特征表示。为解决上述问题，我们提出一种名为对偶关系知识蒸馏 (DRKD) 的新蒸馏方法，包括像素级关系蒸馏与实例级关系蒸馏。像素级关系蒸馏将像素级特征嵌入图空间中并应用图卷积以捕获全局像素关系。通过蒸馏全局像素关系，学生检测器能够学习前景与背景特征之间的关系，并避免直接蒸馏特征所带来的特征不平衡难题。此外，我们发现实例级关系为小目标补充了超越独立特征的有价值知识。因此，设计了实例级关系蒸馏，其计算不同实例的相似度以获得关系矩阵。更重要的是，设计了一个关系滤波模块以突出有价值的实例关系。所提对偶关系知识蒸馏具有通用性，可轻松应用于单阶段与两阶段检测器。我们的方法取得了最先进的性能，在 COCO 2017 上将基于 ResNet50 的 Faster R-CNN 从 38.4% mAP 提升至 41.6% mAP，并将基于 ResNet50 的 RetinaNet 从 37.4% mAP 提升至 40.3% mAP。
引用
@article{arxiv.2302.05637,
title = {Dual Relation Knowledge Distillation for Object Detection},
author = {Zhenliang Ni and Fukui Yang and Shengzhao Wen and Gang Zhang},
journal= {arXiv preprint arXiv:2302.05637},
year = {2023}
}
备注
Accepted by IJCAI-2023