基于习得视觉模式针对深度强化学习自动驾驶的定向攻击
机器学习
2022-03-10 v2 人工智能
摘要
近期研究揭示了通过深度强化学习习得的控制策略易受对抗攻击的脆弱性，引发了对这类模型应用于自动驾驶等风险敏感任务的担忧。现有演示的威胁模型局限于（1）通过实时操纵智能体观测的定向攻击，以及（2）通过操纵物理环境实现的无目标攻击。前者假定始终完全访问智能体状态/观测，后者无法控制攻击结果。本文研究通过环境中物体上放置视觉习得模式实现定向攻击的可行性，该威胁模型兼具现有模型的可行性与有效性。通过分析，我们证明当对抗物体出现时，预训练策略可在时间窗内被劫持，例如执行非预期的自泊车。为实现攻击，我们采用一种假设：环境与智能体的动力学均可被攻击者习得。最后，我们通过实验展示了所提攻击在不同驾驶场景下的有效性，进行了位置鲁棒性测试，并研究了攻击强度与有效性之间的权衡。代码见 https://github.com/ASU-APG/Targeted-Physical-Adversarial-Attacks-on-AD
引用
@article{arxiv.2109.07723,
title = {Targeted Attack on Deep RL-based Autonomous Driving with Learned Visual Patterns},
author = {Prasanth Buddareddygari and Travis Zhang and Yezhou Yang and Yi Ren},
journal= {arXiv preprint arXiv:2109.07723},
year = {2022}
}
备注
7 pages, 4 figures; Accepted at ICRA 2022