利用深度神经网络漏洞进行隐私保护
计算机视觉与模式识别
2020-10-01 v1
摘要
可在图像上添加对抗扰动以保护其内容免受不必要的推断。然而，这些扰动对于在扰动生成过程中未“见过”的分类器，或基于重量化、中值滤波或 JPEG 压缩的防御可能无效。为解决这些局限，我们提出了一种专门设计用于保护视觉内容免受未见过分类器及已知防御影响的对抗攻击。我们采用基于快速梯度符号法（Fast Gradient Signed Method）的迭代过程来构造扰动，并在每次迭代中随机选择一个分类器与一种防御。这种随机化防止了对特定分类器或防御的不期望过拟合。我们在 Places365-Standard 数据集的私有类别上，于有目标与无目标两种设定下验证了所提出的攻击。使用 ResNet18、ResNet50、AlexNet 和 DenseNet161 作为分类器，所提攻击的性能超越了十一种最先进（state-of-the-art）的攻击。实现代码见 https://github.com/smartcameras/RP-FGSM/。
引用
@article{arxiv.2007.09766,
title = {Exploiting vulnerabilities of deep neural networks for privacy protection},
author = {Ricardo Sanchez-Matilla and Chau Yi Li and Ali Shahin Shamsabadi and Riccardo Mazzon and Andrea Cavallaro},
journal= {arXiv preprint arXiv:2007.09766},
year = {2020}
}