对抗扰动欺骗深度伪造检测器
计算机视觉与模式识别
2020-05-18 v2 机器学习
神经与进化计算
机器学习
摘要
本工作利用对抗扰动增强深度伪造图像并欺骗常见的深度伪造检测器。我们使用快速梯度符号法和Carlini与Wagner的L2范数攻击，在黑盒与白盒设定下生成对抗扰动。检测器在未扰动深度伪造上准确率超过95%，而在扰动深度伪造上准确率低于27%。我们还探索了深度伪造检测器的两种改进：（i）Lipschitz正则化，以及（ii）深度图像先验（DIP）。Lipschitz正则化约束检测器相对于输入的梯度，以提升对输入扰动的鲁棒性。DIP防御以无监督方式使用生成式卷积神经网络去除扰动。正则化平均提升了扰动深度伪造的检测，包括在黑盒情形下10%的准确率提升。DIP防御在骗过原始检测器的扰动深度伪造上达到95%准确率，同时在100张图像子样本的其他情形下保持98%准确率。
引用
@article{arxiv.2003.10596,
title = {Adversarial Perturbations Fool Deepfake Detectors},
author = {Apurva Gandhi and Shomik Jain},
journal= {arXiv preprint arXiv:2003.10596},
year = {2020}
}
备注
To appear in the proceedings of the International Joint Conference on Neural Networks (IJCNN 2020)