基于 Saak 变换的对抗攻击防御
计算机视觉与模式识别
2018-08-07 v1 人工智能
密码学与安全
摘要
深度神经网络（DNNs）已知易受对抗扰动的影响，这对基于 DNN 的决策系统构成严重威胁。本文中，我们提出将无损 Saak 变换应用于对抗扰动的图片，作为预处理工具以防御对抗攻击。Saak 变换是近期提出的一种用于计算输入图像空间-谱表示的前沿方法。经验上，我们观察到 Saak 变换的输出在区分对抗样本与干净样本时具有很强判别力。因此，我们提出一种基于 Saak 变换的三步预处理方法：1）通过前向 Saak 变换将输入图像变换为联合空间-谱表示；2）对其高频分量进行滤波；3）通过逆 Saak 变换重建图像。发现处理后的图像对对抗扰动具有鲁棒性。我们进行了大量实验以研究 Saak 变换与滤波函数的不同设置。在不损害干净图像决策性能的前提下，我们的方法在 CIFAR-10 与 ImageNet 数据集上以显著优势超越前沿对抗防御方法。重要的是，我们的结果表明对抗扰动可借助前沿频率分析被有效且高效地防御。
引用
@article{arxiv.1808.01785,
title = {Defense Against Adversarial Attacks with Saak Transform},
author = {Sibo Song and Yueru Chen and Ngai-Man Cheung and C. -C. Jay Kuo},
journal= {arXiv preprint arXiv:1808.01785},
year = {2018}
}