对抗样本亦有可用之处！
计算机视觉与模式识别
2020-05-14 v1 密码学与安全
机器学习
摘要
深度学习已取得长足进步并享有前所未有的成功。然而，尽管准确率很高，深度模型却很脆弱，容易被难以察觉的对抗扰动所欺骗。与常见的推理时攻击不同，后门（亦称木马）攻击针对模型构建的训练阶段，且极难应对，因为 a) 模型在干净测试集上表现正常，b) 所增加的扰动可能极其微小，且可能仅影响少量训练样本。在此，我提出一种新方法来判断模型是否遭受过后门攻击。其思路是使用 FGSM 等传统攻击生成针对性或非针对性的对抗样本，然后将它们反馈给分类器。通过计算不同类别图像的统计量（此处仅为均值图）并将其与参考模型的统计量进行比较，可以直观地定位被扰动区域并揭露攻击。
引用
@article{arxiv.2005.06107,
title = {Adversarial examples are useful too!},
author = {Ali Borji},
journal= {arXiv preprint arXiv:2005.06107},
year = {2020}
}