深入探究对深度策略的对抗攻击
机器学习
2017-05-19 v1 机器学习
摘要
已有研究表明，对抗样本广泛存在于各种深度学习架构中。深度强化学习在直接基于原始输入（如图图像像素）训练智能体策略方面展现出了可喜的成果。在本文中，我们对深度强化学习策略的对抗攻击进行了新颖的研究。我们比较了使用对抗样本与随机噪声进行攻击的有效性。我们提出了一种基于价值函数的新方法，用于减少成功攻击所需注入对抗样本的次数。我们进一步探讨了在随机噪声和 FGSM 扰动上进行重训练如何影响对对抗样本的抵抗力。
引用
@article{arxiv.1705.06452,
title = {Delving into adversarial attacks on deep policies},
author = {Jernej Kos and Dawn Song},
journal= {arXiv preprint arXiv:1705.06452},
year = {2017}
}
备注
ICLR 2017 Workshop