自动驾驶深度强化学习的安全性：综述
机器学习
2025-09-26 v3 机器人学
摘要
强化学习（RL）使智能体能通过与环境交互学习最优行为，并日益部署于包括自动驾驶在内的安全关键应用中。尽管前景广阔，RL易遭受旨在破坏策略学习或诱导已训练智能体错误决策的攻击。尽管RL安全文献快速增长且已有若干综述，现有分类常不足以指导针对特定系统选择合适防御。本工作中，我们呈现对86篇近期RL安全研究的全面综述，依据定义的威胁模型及单智能体 versus 多智能体设定系统分类攻击与防御，以弥补这些局限。此外，我们考察最先进攻击与防御机制在自动驾驶语境下的相关性与适用性，为鲁棒RL系统设计提供见解。
引用
@article{arxiv.2212.06123,
title = {Security of Deep Reinforcement Learning for Autonomous Driving: A Survey},
author = {Ambra Demontis and Srishti Gupta and Maura Pintor and Luca Demetrio and Kathrin Grosse and Hsiao-Ying Lin and Chengfang Fang and Battista Biggio and Fabio Roli},
journal= {arXiv preprint arXiv:2212.06123},
year = {2025}
}