面向自动驾驶汽车的安全关键场景的对抗生成与协同演化
计算机视觉与模式识别
2025-08-26 v2
摘要
在仿真中生成安全关键场景，对于自动驾驶汽车在社会道路部署前的安全评估已变得日益关键。然而，当前的方法在很大程度上依赖于预定义的威胁模式或基于规则的策略，这限制了它们暴露多样且不可预见的失效模式的能力。为克服这些局限，我们提出了 ScenGE，一个能够通过推理新颖的对抗案例，并利用复杂交通流对其进行放大，从而生成大量安全关键场景的框架。给定一个良性场景的简单提示，它首先执行元场景生成，在此过程中，一个基于结构化驾驶知识的大型语言模型会推断出一个对抗性智能体，其行为构成的威胁既合理又具有挑战性。然后，该元场景被指定为可执行代码，以便在仿真器中进行精确控制。随后，复杂场景演化利用背景车辆来放大由元场景引入的核心威胁。它构建了一个对抗性协作图，以识别需要优化的关键智能体轨迹。这些扰动旨在同时缩小自车的机动空间并造成关键遮挡。在多个基于强化学习的自动驾驶模型上进行的大量实验表明，ScenEG 平均比最先进的基线方法多发现 31.96% 的严重碰撞案例。此外，我们的 ScenEG 可应用于基于大模型的自动驾驶系统，并部署在不同的仿真器上；我们进一步观察到，基于我们场景的对抗训练提高了模型的鲁棒性。最后，我们通过真实车辆测试和人类评估验证了我们的框架，确认生成的场景既合理又关键。我们希望本文能为建立公众信任并确保其安全部署迈出关键一步。
引用
@article{arxiv.2508.14527,
title = {Adversarial Generation and Collaborative Evolution of Safety-Critical Scenarios for Autonomous Vehicles},
author = {Jiangfan Liu and Yongkang Guo and Fangzhi Zhong and Tianyuan Zhang and Zonglei Jing and Siyuan Liang and Jiakai Wang and Mingchuan Zhang and Aishan Liu and Xianglong Liu},
journal= {arXiv preprint arXiv:2508.14527},
year = {2025}
}