理解像素离散化抵御对抗攻击的局限性
密码学与安全
2019-10-04 v5 机器学习
神经与进化计算
机器学习
摘要
人工神经网络在各领域的广泛采用导致了对抵御其对抗攻击的防御方法的日益关注。诸如像素离散化之类的预处理防御方法因简单、计算开销低且适用于各类系统，在实践中尤其具有吸引力。据观察，此类方法在 MNIST 等简单数据集上表现良好，但在近期提出的强白盒攻击下，于 ImageNet 等更复杂的数据集上失效。为理解其成功条件与改进潜力，我们研究了像素离散化防御方法，包括考虑被离散化数据集性质的更复杂变体。我们的结果再次显示出对强攻击的薄弱抵抗。我们在理论框架中分析其结果，并提供有力证据表明像素离散化除最简单的数据集外不太可能奏效。此外，我们的论证揭示了某些其他预处理防御可能不安全的原因。
引用
@article{arxiv.1805.07816,
title = {Towards Understanding Limitations of Pixel Discretization Against Adversarial Attacks},
author = {Jiefeng Chen and Xi Wu and Vaibhav Rastogi and Yingyu Liang and Somesh Jha},
journal= {arXiv preprint arXiv:1805.07816},
year = {2019}
}