利用参数空间噪声缓解深度 Q 网络的策略操纵攻击
机器学习
2018-06-07 v1 密码学与安全
机器学习
摘要
近期的研究进展表明，深度强化学习易受通过故意扰动的输入（即对抗样本）进行的策略操纵攻击的影响。在本工作中，我们提出了一种缓解此类攻击的技术，该技术基于在训练期间向深度强化学习智能体的参数空间中添加噪声。我们通过实验验证了参数空间噪声在降低对抗样本可迁移性方面的效果，并展示了该技术在测试和训练阶段缓解白盒和黑盒攻击影响方面的良好性能。
引用
@article{arxiv.1806.02190,
title = {Mitigation of Policy Manipulation Attacks on Deep Q-Networks with Parameter-Space Noise},
author = {Vahid Behzadan and Arslan Munir},
journal= {arXiv preprint arXiv:1806.02190},
year = {2018}
}
备注
arXiv admin note: substantial text overlap with arXiv:1701.04143, arXiv:1712.09344