基于最小可察觉差异的对抗隐私保护图像生成
计算机视觉与模式识别
2022-06-20 v1 人工智能
机器学习
摘要
深度学习模型被发现易受对抗样本攻击，因为深度学习模型输入中的微小扰动即可导致错误预测。现有大多数对抗图像生成工作试图实现对多数模型的攻击，而极少有研究致力于保证对抗样本的感知质量。高质量对抗样本对许多应用至关重要，尤其对于隐私保护。本工作中，我们基于最小可察觉差异(MND)概念开发了一个框架，以生成与干净图像感知差异最小却能够攻击深度学习模型的对抗隐私保护图像。为此，首先提出一种对抗损失使深度学习模型被对抗图像成功攻击。随后，通过考虑扰动幅度及扰动引起的结构与梯度变化，设计了一种感知质量保持损失，旨在为对抗图像生成保持高感知质量。据我们所知，这是首个基于MND概念探索用于隐私保护的质量保持对抗图像生成的工作。为评估其在感知质量方面的性能，本文使用所提方法及若干基准方法对图像分类与人脸识别的深度模型进行了测试。大量实验结果表明，所提MND框架能够生成相较基准方法在性能指标（如PSNR、SSIM和MOS）上显著更优的对抗图像。
引用
@article{arxiv.2206.08638,
title = {Minimum Noticeable Difference based Adversarial Privacy Preserving Image Generation},
author = {Wen Sun and Jian Jin and Weisi Lin},
journal= {arXiv preprint arXiv:2206.08638},
year = {2022}
}