StereoDistill：从 LiDAR 中择优选取以蒸馏基于立体视觉的 3D 目标检测
计算机视觉与模式识别
2023-01-10 v2
摘要
在本文中，我们提出一种名为 StereoDistill 的跨模态蒸馏方法，通过在响应层级从更优的 LiDAR 模型蒸馏立体检测器，来缩小立体与基于 LiDAR 的方法之间的差距，而该层级在 3D 目标检测蒸馏中常被忽视。StereoDistill 的关键设计为：用于回归的 X 分量引导蒸馏（XGD）与用于分类的交叉锚点对数蒸馏（CLD）。在 XGD 中，不同于经验性地采用阈值筛选高质量教师预测作为软目标，我们将预测的 3D 框分解为子分量，并在教师分量指引与真值一致时保留相应部分用于蒸馏，从而大幅增加正预测数量并缓解学生模型的模仿难度。对于 CLD，我们聚合同一位置所有锚点的概率分布，以鼓励最高概率锚点，而非在锚点层级单独蒸馏分布。最终，我们的 StereoDistill 在 KITTI 测试基准上取得基于立体视觉的 3D 检测的最优结果，且在 KITTI 与 Argoverse 数据集上的大量实验验证了有效性。
引用
@article{arxiv.2301.01615,
title = {StereoDistill: Pick the Cream from LiDAR for Distilling Stereo-based 3D Object Detection},
author = {Zhe Liu and Xiaoqing Ye and Xiao Tan and Errui Ding and Xiang Bai},
journal= {arXiv preprint arXiv:2301.01615},
year = {2023}
}
备注
Accepted by AAAI-2023