物理后门攻击可危及基于视觉大语言模型的驾驶
密码学与安全
2024-04-23 v2
摘要
视觉大语言模型在自动驾驶领域具有广阔的应用前景。尽管 VLMs 能够在复杂场景中进行理解并做出决策，但将其集成到安全关键的自动驾驶系统中会带来严重的安全风险。在本文中，我们提出了 BadVLMDriver，这是首个针对自动驾驶 VLMs 的后门攻击，可使用物理物体在实践中发起。与依赖数字修改的现有针对 VLMs 的后门攻击不同，BadVLMDriver 使用常见的物理物品（如红气球）来诱发突然加速等不安全行为，凸显了对自动驾驶车辆安全的重大现实威胁。为执行 BadVLMDriver，我们开发了一个自动化流水线，利用自然语言指令生成嵌有恶意行为的后门训练样本。该方法允许灵活选择触发器和行为，增强了攻击在多种场景下的隐蔽性和实用性。我们进行了广泛的实验，针对两个代表性的 VLMs、五种不同的触发物体和两类恶意后门行为评估了 BadVLMDriver。当遇到手持红气球的行人时，BadVLMDriver 诱发突然加速的攻击成功率达到 92%。因此，BadVLMDriver 不仅展示了一个关键的安全风险，也强调了迫切需要开发稳健的防御机制，以防范自动驾驶技术中的此类漏洞。
引用
@article{arxiv.2404.12916,
title = {Physical Backdoor Attack can Jeopardize Driving with Vision-Large-Language Models},
author = {Zhenyang Ni and Rui Ye and Yuxi Wei and Zhen Xiang and Yanfeng Wang and Siheng Chen},
journal= {arXiv preprint arXiv:2404.12916},
year = {2024}
}