中文

基于 Transformer 的自动驾驶模型与面向部署的压缩:综述

机器学习 2026-05-13 v2 人工智能 计算机视觉与模式识别 机器人学 系统与控制 系统与控制

摘要

基于 Transformer 的模型正成为自动驾驶中的核心范式,因为它们能够捕捉感知、预测与规划中的长程空间依赖、多智能体交互和多模态上下文。同时,其在真实车辆中的部署仍然困难,因为高容量的基于注意力的架构带来了显著的延迟、内存和能耗开销。本综述回顾了代表性的基于 Transformer 的自动驾驶模型,并按任务角色、传感配置和架构设计对其进行组织。更重要的是,我们从面向部署的视角审视这些模型,并分析效率约束如何在实践中重塑模型设计选择。我们进一步回顾了与基于 Transformer 的驾驶系统相关的压缩与加速策略,包括量化、剪枝、知识蒸馏、低秩近似和高效注意力,并讨论了它们的益处、局限性和依赖于任务的适用性。我们未将压缩视为孤立的后处理步骤,而是强调其作为直接影响可部署性、鲁棒性和安全性的系统级设计考量。最后,我们指出了朝向高效自动驾驶系统的标准化、安全感知和硬件感知评估的开放挑战与未来研究方向。

关键词

引用

@article{arxiv.2304.10891,
  title  = {Transformer-Based Autonomous Driving Models and Deployment-Oriented Compression: A Survey},
  author = {Juan Zhong and Yuhang Shi and Zukang Xu and Xi Chen},
  journal= {arXiv preprint arXiv:2304.10891},
  year   = {2026}
}