从测试时平滑防御看对抗鲁棒性的自适应视角
机器学习
2019-11-28 v1 密码学与安全
机器学习
摘要
基于学习的决策系统的安全性与鲁棒性正受到对抗样本的威胁，因为难以察觉的扰动可误导神经网络产生完全不同的输出。在本文中，我们通过评估多种针对白盒无目标对抗样本的测试时平滑防御，对该问题提出一种自适应视角。通过在 ImageNet 上使用预训练 ResNet-152 的受控实验，我们首先阐明了对抗攻击与平滑防御之间的非单调关系。随后在数据集层面，我们观察到样本间存在较大方差，并表明很容易将准确率抬高（甚至至 100%）或构建大规模（即规模约 10^4）子集，使指定方法在其中大幅优于其他方法。最后在样本层面，由于不同对抗样本需要不同程度的防御，我们也讨论了迭代方法的潜在优势。我们希望本文揭示测试时防御的有用行为，从而有助于未来改进对抗鲁棒性的评估流程。
引用
@article{arxiv.1911.11881,
title = {An Adaptive View of Adversarial Robustness from Test-time Smoothing Defense},
author = {Chao Tang and Yifei Fan and Anthony Yezzi},
journal= {arXiv preprint arXiv:1911.11881},
year = {2019}
}
备注
NeurIPS-2019 Workshop on Safety and Robustness in Decision Making