利用像素偏转抵御对抗攻击
计算机视觉与模式识别
2018-04-03 v3 密码学与安全
摘要
CNN正 poised 成为许多关键系统的组成部分。尽管其对自然变化具有鲁棒性，图像像素值仍可通过微小、精心构造且难以察觉的扰动被操纵，从而导致模型对图像误分类。我们提出一种处理图像的算法，使得在此类对抗操纵存在时分类准确率得到显著保持。图像分类器往往对自然噪声具有鲁棒性，而对抗攻击往往与物体位置无关。这些观察激发了我们的策略：利用模型鲁棒性，通过强制图像匹配自然图像统计来防御对抗扰动。我们的算法通过一种我们称之为像素偏转(pixel deflection)的过程重新分配像素值，从而在局部破坏图像。随后的基于小波的去噪操作软化了这一破坏以及一些对抗性改变。我们通过实验证明，这些技术的结合能够有效恢复真实类别，抵御多种鲁棒攻击。我们的结果优于当前最先进的防御方法，且无需重新训练或修改CNN。
引用
@article{arxiv.1801.08926,
title = {Deflecting Adversarial Attacks with Pixel Deflection},
author = {Aaditya Prakash and Nick Moran and Solomon Garber and Antonella DiLillo and James Storer},
journal= {arXiv preprint arXiv:1801.08926},
year = {2018}
}
备注
Accepted to IEEE CVPR 2018 as Spotlight