GraCIAS：基于 corrupted 图像 Grassmann 流的对抗安全方法
计算机视觉与模式识别
2020-05-08 v2 密码学与安全
机器学习
摘要
基于输入变换的防御策略在抵御强对抗攻击时表现不足。一些成功的防御采用的方法要么增加所施加变换中的随机性，要么使防御在计算上密集，从而大幅增加了攻击者的难度。然而，这限制了此类防御作为预处理步骤的适用性，类似于使用重训练和网络修改来实现对扰动鲁棒性的计算密集型方法。在这项工作中，我们提出了一种防御策略，仅对输入图像施加随机图像损坏，构建基于自相关的子空间，随后进行投影操作以抑制对抗扰动。由于其简单性，所提出的防御与最先进水平相比计算高效，且仍能承受巨大扰动。进一步地，我们通过将 Grassmann 流形上的测地距离与矩阵 Frobenius 范数相关联的界，建立了干净图像与其对抗扰动版本的投影算子之间的邻近关系。我们凭经验表明，我们的策略与 JPEG 压缩等其他弱防御互补，并且可以无缝集成以创建更强的防御。我们在 ImageNet 数据集上针对 InceptionV3、ResNet50、VGG16 和 MobileNet 四种不同模型进行了大量实验，扰动幅度设为 {\epsilon} = 16。与最先进方法不同，即使不进行任何重训练，所提策略在 ImageNet 上的防御准确率也实现了约 4.5% 的绝对提升。
引用
@article{arxiv.2005.02936,
title = {GraCIAS: Grassmannian of Corrupted Images for Adversarial Security},
author = {Ankita Shukla and Pavan Turaga and Saket Anand},
journal= {arXiv preprint arXiv:2005.02936},
year = {2020}
}
备注
16 pages