别盯着我：一种针对深度强化学习增强自动驾驶的时空木马攻击
密码学与安全
2022-11-29 v1 人工智能
机器学习
摘要
深度强化学习（DRL）是实现自动驾驶（AD）系统最流行的算法之一。DRL 成功的关键因素是它拥抱深度神经网络的感知能力，然而后者已被证明易受木马攻击。木马攻击已在监督学习（SL）任务（如图像分类）中被广泛探索，但在 DRL 解决的序列决策任务中很少见。因此，在本文中我们探索针对 AD 任务中 DRL 的木马攻击。首先，我们提出一种基于循环神经网络与注意力机制的时空 DRL 算法，以证明捕获时空交通特征是 DRL 增强 AD 系统有效性与安全性的关键因素。我们随后设计了一种针对 DRL 策略的时空木马攻击，其中触发器隐藏于一系列时空交通特征中，而非现有 SL 与 DRL 任务木马所用的单一瞬时状态。借助我们的木马， adversary 充当周围正常车辆，并可通过特定时空驾驶行为触发攻击，而非物理或无线访问。通过大量实验，我们表明尽管捕获时空交通特征能提升 DRL 在不同 AD 任务上的性能，它们仍遭受木马攻击，因为我们设计的木马展现出高隐蔽性（多种时空触发模式）、有效性（低于 3.1% 的性能方差率与高于 98.5% 的攻击成功率），且对现有先进防御具有持续性。
引用
@article{arxiv.2211.14440,
title = {Don't Watch Me: A Spatio-Temporal Trojan Attack on Deep-Reinforcement-Learning-Augment Autonomous Driving},
author = {Yinbo Yu and Jiajia Liu},
journal= {arXiv preprint arXiv:2211.14440},
year = {2022}
}