中文

基于 CNN 的图像分类中对抗攻击的感知评估

机器学习 2019-06-04 v1 密码学与安全 计算机视觉与模式识别 图像与视频处理 机器学习

摘要

深度神经网络(DNNs)近期取得了最先进的性能,并在许多机器学习任务(如图像分类、语音处理、自然语言处理等)中提供了显著进展。然而,近期研究表明 DNNs 易受对抗攻击。例如,在图像分类领域,向输入图像添加微小不可感知的扰动就足以欺骗 DNN 并导致误分类。被扰动的图像称为对抗样本,应在视觉上尽可能接近原始图像。然而,文献中提出的所有生成对抗样本的工作都使用了 LpL_{p} 范数(L0L_{0}L2L_{2}LL_{\infty})作为距离度量来量化原始图像与对抗样本之间的相似性。尽管如此,LpL_{p} 范数与人类判断不相关,使其不适合可靠地评估对抗样本的感知相似性/保真度。在本文中,我们提出了一个用于对抗样本视觉保真度评估的数据库。我们描述了该数据库的创建,并评估了十五种可替代 LpL_{p} 范数的最先进全参考(FR)图像保真度评估指标的性能。该数据库及主观评分已公开可用,以帮助设计对抗样本的新指标并促进未来的研究工作。

关键词

引用

@article{arxiv.1906.00204,
  title  = {Perceptual Evaluation of Adversarial Attacks for CNN-based Image Classification},
  author = {Sid Ahmed Fezza and Yassine Bakhti and Wassim Hamidouche and Olivier Déforges},
  journal= {arXiv preprint arXiv:1906.00204},
  year   = {2019}
}

备注

Eleventh International Conference on Quality of Multimedia Experience (QoMEX 2019)