对抗攻击的数学分析
机器学习
2018-11-27 v2 密码学与安全
机器学习
摘要
本文中，我们分析了快速梯度符号法 (FGSM) 与 Carlini-Wagner 的 L2 (CW-L2) 攻击的有效性。我们证明，在特定机制下，无目标 FGSM 可欺骗任何带 ReLU 激活的卷积神经网络 (CNNs)；有目标 FGSM 可误导任何带 ReLU 激活的 CNNs 将任意给定图像分类为任意指定类别。对于一个特殊的两层神经网络：一个线性层后接 softmax 输出激活，我们证明 CW-L2 攻击增大了目标类别与真实类别之间分类概率的比值。此外，我们给出了数值结果以验证所有理论结果。
引用
@article{arxiv.1811.06492,
title = {Mathematical Analysis of Adversarial Attacks},
author = {Zehao Dou and Stanley J. Osher and Bao Wang},
journal= {arXiv preprint arXiv:1811.06492},
year = {2018}
}
备注
21 pages