数据安全威胁下基于大语言模型的车辆轨迹预测鲁棒性研究
机器学习
2025-11-19 v1 人工智能
密码学与安全
摘要
将大语言模型（LLM）集成到自动驾驶系统中，通过将复杂的驾驶场景转化为语言可理解的表示，为推理和决策开辟了新的可能性。近期研究表明，通过收集和转换来自周围车辆的数据，微调后的 LLM 能够准确预测车辆轨迹和换道意图。然而，尽管人们对 LLM 可信度的担忧日益增加，但此类基于 LLM 的预测模型在安全关键型驾驶系统中的鲁棒性仍未得到探索。本研究通过系统性地对基于 LLM 的车辆轨迹预测进行脆弱性分析，填补了这一空白。我们提出了一种单特征差分进化攻击方法，在黑盒设置下，对 LLM 输入提示中周围车辆的单个运动学特征进行扰动。在 highD 数据集上的实验表明，即使是微小的、物理上可行的扰动，也能显著干扰模型输出，这凸显了基于 LLM 的预测器对对抗性操纵的敏感性。进一步的分析揭示了准确性与鲁棒性之间的权衡，检验了失效机制，并探索了潜在的缓解方案。这些发现首次揭示了在车辆交互背景下，LLM 驱动的自动驾驶车辆模型的对抗性脆弱性，并强调了在未来基于 LLM 的智能交通系统中进行面向鲁棒性设计的必要性。
引用
@article{arxiv.2511.13753,
title = {Robustness of LLM-enabled vehicle trajectory prediction under data security threats},
author = {Feilong Wang and Fuqiang Liu},
journal= {arXiv preprint arXiv:2511.13753},
year = {2025}
}
备注
20 pages, 2 figures, 11 tables, working paper