用更先进的梯度混淆技术缓解高级对抗攻击
密码学与安全
2020-05-29 v1 机器学习
摘要
深度神经网络（DNNs）众所周知易受对抗样本（AEs）攻击。大量努力被用于发起并加剧攻击者与防御者之间的军备竞赛。近来，提出了先进的基于梯度的攻击技术（如 BPDA 和 EOT），它们已击败了相当数量的现有防御方法。至今，仍无令人满意的方案能有效且高效地防御这些攻击。在本文中，我们朝着缓解这些先进基于梯度的攻击稳步迈进，作出两项主要贡献。首先，我们深入分析了这些攻击的根本原因，并提出了可打破这些攻击基本假设的四个性质。其次，我们确定了一组能满足这些性质的操作。通过集成这些操作，我们设计了两个可使这些强力攻击失效的预处理函数。大量评估表明，我们的方案能有效缓解所有现有的标准与高级攻击技术，并击败过去两年顶会上发表的 11 种最先进防御方案。防御者可采用我们的方案将最强攻击的成功率限制在 7% 以下，即便 adversary 已耗费数十个 GPU 小时。
引用
@article{arxiv.2005.13712,
title = {Mitigating Advanced Adversarial Attacks with More Advanced Gradient Obfuscation Techniques},
author = {Han Qiu and Yi Zeng and Qinkai Zheng and Tianwei Zhang and Meikang Qiu and Gerard Memmi},
journal= {arXiv preprint arXiv:2005.13712},
year = {2020}
}