JPG压缩对对抗图像影响的研究
计算机视觉与模式识别
2016-08-03 v1 机器学习
摘要
众所周知，神经网络图像分类器易受对抗图像的攻击，即自然图像被设计成对人类不可感知但能欺骗分类器的对抗扰动修改。对抗图像不仅容易生成，而且这些图像通常对于在不相交数据子集或不同架构上训练的网络也是对抗性的。对抗图像代表了潜在的安全风险以及严重的机器学习挑战——很明显，脆弱的神经网络感知图像的方式与人类非常不同。注意到几乎每个图像分类数据集都由JPG图像组成，我们评估了JPG压缩对对抗图像分类的影响。对于小幅度快速梯度符号（Fast-Gradient-Sign）扰动，我们发现JPG压缩经常在很大程度反转分类准确率的下降，但不总是。随着扰动幅度增加，仅JPG重压缩不足以反转该效应。
引用
@article{arxiv.1608.00853,
title = {A study of the effect of JPG compression on adversarial images},
author = {Gintare Karolina Dziugaite and Zoubin Ghahramani and Daniel M. Roy},
journal= {arXiv preprint arXiv:1608.00853},
year = {2016}
}
备注
8 pages, 4 figures