凡不能杀死深度强化学习者，必使其更强大
人工智能
2017-12-29 v1
摘要
近期的研究已确立深度强化学习（RL）在面对通过对抗扰动进行策略操纵攻击时的脆弱性。本文研究深度 RL 对训练时与测试时攻击的鲁棒性与恢复力。通过实验结果，我们证明在非连续训练时攻击下，Deep Q-Network（DQN）智能体能够通过反应式调整策略从对抗条件中恢复并适应。我们的结果还表明，在对抗扰动下学习到的策略对测试时攻击更具鲁棒性。此外，我们比较了 -greedy 与参数空间噪声探索方法在对抗扰动下的鲁棒性与恢复力表现。
引用
@article{arxiv.1712.09344,
title = {Whatever Does Not Kill Deep Reinforcement Learning, Makes It Stronger},
author = {Vahid Behzadan and Arslan Munir},
journal= {arXiv preprint arXiv:1712.09344},
year = {2017}
}
备注
arXiv admin note: text overlap with arXiv:1701.04143