DM3D：用于无损3D目标检测的失真最小化权重剪枝
计算机视觉与模式识别
2024-07-03 v1
摘要
将深度神经网络应用于3D点云处理已引起日益关注的注意力，因其在AR/VR、自动驾驶和机器人等诸多领域表现优异。然而，随着神经网络模型和3D点云规模的扩大，降低计算和内存开销以满足实际应用中的延迟和能源约束已成为关键挑战。虽然已有方法提出减少计算成本和内存占用，但大多数方法仅针对输入中的空间冗余，即消除3D数据中背景点的冗余。在本文中，我们提出了一种新的后训练权重剪枝方案，用于3D目标检测，该方案（1）与所有现有的点云稀疏化方法正交，这决定预训练模型中导致最小检测失真（locality和confidence检测失真）的冗余参数；（2）一种通用的即插即用剪枝框架，可与任意3D检测模型配合使用。该框架旨在最小化网络输出的检测失真，以最大程度保持检测精度，通过基于检测失真的二阶Taylor近似识别层级稀疏性。尽管利用二阶信息，我们引入了一种轻量级方案高效获取Hessian信息，并随后采用动态规划求解层级稀疏性。大量实验表明，我们的方法能够在显著降低计算量（FLOPs）的同时保持甚至提升 pruned 模型上的检测精度。值得注意的是，我们在CenterPoint和PVRCNN模型上分别实现了超过3.89倍和3.72倍的FLOPs降低，且无mAP下降，显著提升了当前最佳技术水平。
引用
@article{arxiv.2407.02098,
title = {DM3D: Distortion-Minimized Weight Pruning for Lossless 3D Object Detection},
author = {Kaixin Xu and Qingtian Feng and Hao Chen and Zhe Wang and Xue Geng and Xulei Yang and Min Wu and Xiaoli Li and Weisi Lin},
journal= {arXiv preprint arXiv:2407.02098},
year = {2024}
}