面向高效三维目标检测的知识蒸馏

尽管三维目标检测已取得实质性进展，先进的三维检测器常受困于沉重的计算开销。为此，我们探索知识蒸馏（KD）在开发高效三维目标检测器方面的潜力，聚焦于流行的基于pillar和基于voxel的检测器。在缺乏成熟师生对的条件下，我们首先从模型压缩和输入分辨率降低的角度研究如何获得精度与效率权衡良好的学生模型。随后，我们构建基准，在六个精心构造的师生对上评估二维领域已有KD方法对三维目标检测的适用性。进一步，我们提出一种改进的KD流程，融入增强的logit KD方法（仅在由教师分类响应确定的少数关键位置执行KD），以及教师引导学生模型初始化以通过权重继承将教师模型的特征提取能力迁移给学生。最后，我们在Waymo数据集上进行了大量实验。我们性能最佳的模型达到$65.75\%$ LEVEL 2 mAPH，超越其教师模型且仅需教师$44\%$的flops。我们最高效的模型在NVIDIA A100上运行51 FPS，比PointPillar快$2.2\times$且精度更高。代码见\url{https://github.com/CVMI-Lab/SparseKD}。