对抗鲁棒性在不同扰动类型间的迁移
机器学习
2019-05-06 v1 人工智能
密码学与安全
机器学习
摘要
我们研究深度神经网络对抗鲁棒性在不同扰动类型间的迁移。尽管大多数关于对抗样本的工作聚焦于 和 有界扰动，但这些并未涵盖攻击者可用的所有扰动类型。本研究对在 ImageNet 的 100 类子集上进行对抗训练的模型，评估了 5 种不同类型的 32 种攻击。我们的实证结果表明，需要在广泛的扰动幅度上进行评估，才能理解对抗鲁棒性是否能在不同扰动类型间迁移。我们进一步证明，针对一种扰动类型的鲁棒性并不总是意味着能提升对其他扰动类型的鲁棒性，有时甚至会损害后者。鉴于这些结果，我们建议对抗防御的评估应在多种不同的扰动类型和幅度上进行。
引用
@article{arxiv.1905.01034,
title = {Transfer of Adversarial Robustness Between Perturbation Types},
author = {Daniel Kang and Yi Sun and Tom Brown and Dan Hendrycks and Jacob Steinhardt},
journal= {arXiv preprint arXiv:1905.01034},
year = {2019}
}
备注
11 pages, 6 figures