基于中心度的实例感知知识蒸馏与任务-wise互提升用于无人机影像目标检测
计算机视觉与模式识别
2024-11-06 v1
摘要
为无人机影像开发准确且高效的检测器具有挑战性，因为空中场景具有固有复杂性。虽然一些现有方法旨在通过使用更大模型来实现高精度，但其计算成本对无人机而言难以承受。近期，知识蒸馏（KD）已在通用目标检测中展现出在保持满意精度的同时显著压缩模型的潜力。考虑到KD的优势，本文首次尝试将其适配到无人机影像的目标检测，并解决两个固有难题：（1）前景-背景比例低；（2）小实例和复杂背景，导致训练不足，从而蒸馏效果不足。因此，我们提出了一种任务-wise轻量互提升（Light-ML）模块和基于中心度的实例感知蒸馏（CID）策略。Light-ML模块通过通道混洗和卷积在分类和定位分支之间实现互协调，在反向传播过程中跨不同任务整合教师监督，从而促进学生模型的训练。CID策略通过提案的中心度提取实例周围的有价值区域，增强蒸馏效果。在VisDrone、UAVDT和COCO基准测试上的实验表明，所提方法在可比计算需求下提升了现有最先进KD方法的精度。代码将在接收后公开。
引用
@article{arxiv.2411.02861,
title = {Centerness-based Instance-aware Knowledge Distillation with Task-wise Mutual Lifting for Object Detection on Drone Imagery},
author = {Bowei Du and Zhixuan Liao and Yanan Zhang and Zhi Cai and Jiaxin Chen and Di Huang},
journal= {arXiv preprint arXiv:2411.02861},
year = {2024}
}