针对深度强化学习的增强型策略定时对抗攻击
机器学习
2021-10-11 v1 信号处理
机器学习
摘要
近期基于深度神经网络的技术，尤其是那些在系统层面具备自适应能力的技术（如深度强化学习（DRL）），被证明在优化机器人学习系统（例如自主导航与连续机械臂控制）方面具有诸多优势。然而，这类基于学习的系统及其相关模型可能受到来自真实场景中蓄意自适应（如噪声传感器混淆）与对抗性扰动的威胁。本文通过在对选定时间帧注入物理噪声模式，提出针对基于 DRL 的导航系统的基于时序的对抗策略。为研究基于学习的导航系统的脆弱性，我们提出两种对抗智能体模型：一种基于在线学习，另一种基于进化学习。此外，我们采用三个开源机器人学习与导航控制环境来研究对抗定时攻击下的脆弱性。实验结果表明，对抗定时攻击可导致显著的性能下降，同时也表明有必要增强机器人学习系统的鲁棒性。
引用
@article{arxiv.2002.09027,
title = {Enhanced Adversarial Strategically-Timed Attacks against Deep Reinforcement Learning},
author = {Chao-Han Huck Yang and Jun Qi and Pin-Yu Chen and Yi Ouyang and I-Te Danny Hung and Chin-Hui Lee and Xiaoli Ma},
journal= {arXiv preprint arXiv:2002.09027},
year = {2021}
}
备注
Accepted to IEEE ICASSP 2020