针对增程式电动配送车基于强化学习能量管理系统的对抗攻击
机器学习
2020-06-02 v1 机器学习
摘要
对抗样本最初在计算机视觉领域被研究：通过对原始输入图像添加一些精心设计的“噪声”，扰动后的图像在人类看来与原始图像无法区分，却能轻易欺骗训练良好的分类器。近年来，研究人员也证明，使用类似方法，对抗样本可以在基于图像的视频游戏中误导深度强化学习（DRL）智能体。然而，尽管 DRL 在智能交通系统领域越来越流行，却鲜有研究探讨对抗攻击对其的影响，尤其是针对不以图像作为输入的算法。在本工作中，我们研究了几种快速生成对抗样本的方法，以显著降低训练良好的增程式电动配送车基于 DRL 的能量管理系统的性能。扰动输入为低维状态表示，并且在各类范数量化下接近于原始输入。我们的工作表明，要将 DRL 智能体应用于现实世界的交通系统，应谨慎考虑以网络攻击形式出现的对抗样本，特别是可能导致严重安全问题中的应用。
引用
@article{arxiv.2006.00817,
title = {Adversarial Attacks on Reinforcement Learning based Energy Management Systems of Extended Range Electric Delivery Vehicles},
author = {Pengyue Wang and Yan Li and Shashi Shekhar and William F. Northrop},
journal= {arXiv preprint arXiv:2006.00817},
year = {2020}
}
备注
6 pages and 14 figures