Stop-and-Go：探索基于深度强化学习的交通拥堵控制系统中的后门攻击
密码学与安全
2021-09-28 v4 机器学习
系统与控制
系统与控制
物理与社会
机器学习
摘要
近期研究表明，在交通中引入自动驾驶车辆（AV）有助于缓解交通拥堵。深度强化学习方法在包括自动驾驶车辆控制在内的复杂控制问题中表现出良好性能，并已被用于最先进的 AV 控制器中。然而，深度神经网络（DNN）使自动驾驶易受到基于机器学习的攻击。在本工作中，我们探索对基于 DRL 的 AV 控制器进行后门植入/木马化。我们开发了一种基于成熟交通物理学原理的触发器设计方法。恶意行为包括车辆减速与加速以引发 stop-and-go 交通波（拥堵攻击），或 AV 加速导致其撞上前方车辆（保险攻击）。我们在单车道与双车道环路上测试了我们的攻击。实验结果表明，被植入后门的模型不会损害正常操作性能，其累积奖励的最大下降为 1%。但当相应触发器出现时，它仍可被恶意激活以引发碰撞或拥堵。
引用
@article{arxiv.2003.07859,
title = {Stop-and-Go: Exploring Backdoor Attacks on Deep Reinforcement Learning-based Traffic Congestion Control Systems},
author = {Yue Wang and Esha Sarkar and Wenqing Li and Michail Maniatakos and Saif Eddin Jabari},
journal= {arXiv preprint arXiv:2003.07859},
year = {2021}
}