AED：基于大语言模型的自动发现自主驾驶政策中有效且多样化漏洞
密码学与安全
2025-12-02 v2 人工智能
机器学习
摘要
评估自主驾驶政策的安全性在很大程度上至关重要，强化学习（RL）已成为发现驾驶政策关键漏洞的强大方法。然而，现有的基于RL的方法往往难以识别既有效——即自主车辆真正导致事故——又多样化——即涵盖各种故障类型的——漏洞。为解决这些挑战，我们提出了AED框架，该框架使用大语言模型（LLM）自动发现自主驾驶政策中有效且多样化的漏洞。我们首先利用LLM自动设计RL训练的奖励函数。然后让LLM考虑多样化的事故类型，并并行训练针对不同事故类型的对抗策略。最后，我们使用基于偏好的学习筛选无效的事故，提高每个漏洞的有效性。跨多个模拟交通场景和测试策略的实验表明，AED发现了更广泛的漏洞范围，攻击成功率高于专家设计的奖励函数，从而减少了手动奖励工程的需求，提高了漏洞发现的多样性和有效性。实现代码可在：https://github.com/thu-nics/AED 查找。
引用
@article{arxiv.2503.20804,
title = {AED: Automatic Discovery of Effective and Diverse Vulnerabilities for Autonomous Driving Policy with Large Language Models},
author = {Le Qiu and Zelai Xu and Qixin Tan and Wenhao Tang and Chao Yu and Yu Wang},
journal= {arXiv preprint arXiv:2503.20804},
year = {2025}
}