GuardAD：基于马尔可夫逻辑安全法则的自主驾驶 MLLM 保护
人工智能
2026-05-12 v1
摘要
多模态大语言模型 (MLLMs) 正在越来越多地集成到自主驾驶 (AD) 系统中，但它们在事故易发场景中仍面临多样化的安全威胁。最近的保护机制通过引入逻辑约束显示出前景，但大多数依赖静态表述，缺乏对不断演变的交通互动的时序化安全推理，导致在动态驾驶环境中的鲁棒性有限。为克服这些限制，我们提出了 GuardAD，一种模型无关的保护机制，将 AD 安全建模为演化的马尔可夫逻辑状态。GuardAD 引入了神经符号逻辑形式化，代表了对异构交通参与者的安全谓词，并通过 n 阶马尔可夫逻辑归一化持续诱导这些谓词。该设计使我们能够推断单步观察之外的新兴和潜在危险。而不仅仅是否决不安全的动作，GuardAD 执行逻辑驱动的动作修订，其中推断的安全状态主动指导动作细化，而不修改底层 MLLM。大量实验表明，GuardAD 在多个基准和 AD-MLLMs 上显著降低了事故率 (-32.07%)，同时略微提升了任务性能 (+6.85%)。此外，闭环仿真评估以及物理世界车辆研究进一步验证了 GuardAD 的有效性与潜力。
引用
@article{arxiv.2605.10386,
title = {GuardAD: Safeguarding Autonomous Driving MLLMs via Markovian Safety Logic},
author = {Tianyuan Zhang and Peng Yue and Zihao Peng and Jiangfan Liu and Zonghao Ying and Jiakai Wang and Tianlin Li and Jian Yang and Yaodong Yang and Aishan Liu and Xianglong Liu},
journal= {arXiv preprint arXiv:2605.10386},
year = {2026}
}