基于强化学习的通用分布化决策黑盒对抗攻击
机器学习
2022-11-16 v1 人工智能
密码学与安全
摘要
高性能机器学习模型的脆弱性意味着在具有现实后果的应用中存在安全风险。对抗攻击的研究一方面有益于指导机器学习模型的发展，另一方面有助于发现针对性防御。然而，当今大多数对抗攻击利用模型的梯度或 logit 信息来生成对抗扰动。在更现实的领域——决策基攻击（仅通过观测目标模型输出标签来生成对抗扰动）——中的工作仍相对稀少，且多使用梯度估计策略。在本工作中，我们提出一种像素级决策基攻击算法，通过强化学习算法寻找对抗扰动的分布。我们称此方法为基于强化学习的决策黑盒攻击（DBAR）。实验表明，所提方法以更高的攻击成功率和更强的可迁移性优于最先进（state-of-the-art）的决策基攻击。
引用
@article{arxiv.2211.08384,
title = {Universal Distributional Decision-based Black-box Adversarial Attack with Reinforcement Learning},
author = {Yiran Huang and Yexu Zhou and Michael Hefenbrock and Till Riedel and Likun Fang and Michael Beigl},
journal= {arXiv preprint arXiv:2211.08384},
year = {2022}
}
备注
10 pages, 2 figures, conference