基于TensorRT的混合精度PointPillars用于高效三维目标检测
计算机视觉与模式识别
2026-02-03 v2 人工智能
摘要
激光雷达三维目标检测是自动驾驶的重要任务之一。确保该任务实时运行至关重要。为此，模型量化可用于加速运行时。然而，由于激光雷达数据数值分布广泛且存在极端离群值，直接应用模型量化常导致性能下降。为应对广泛的数值分布，我们提出了一种专为PointPillars设计的混合精度框架。该框架首先通过逐层量化至8位整数并评估各模型平均精度，利用训练后量化搜索敏感层。最敏感的前k层被指定为浮点型。通过贪心搜索这些层的组合以生成候选混合精度模型，并最终使用训练后量化或量化感知训练完成。此外，为处理离群值，我们观察到使用极少量校准数据可降低遇到离群值的可能性，从而提升训练后量化性能。我们的方法在训练后量化流程中无需训练即可提供混合精度模型，而量化感知训练流程则能达到与浮点模型竞争的性能。在TensorRT部署下，与FP32模型相比，我们的混合精度模型延迟降低高达2.538倍。
引用
@article{arxiv.2601.12638,
title = {Mixed Precision PointPillars for Efficient 3D Object Detection with TensorRT},
author = {Ninnart Fuengfusin and Keisuke Yoneda and Naoki Suganuma},
journal= {arXiv preprint arXiv:2601.12638},
year = {2026}
}
备注
6 pages, 4 figures