人脸取证模型对抗攻击的安全性
计算机视觉与模式识别
2020-05-21 v2
摘要
深度神经网络（DNN）已被用于数字取证中以识别伪造人脸图像。我们研究了几种基于DNN的伪造取证模型（FFM），以检验它们是否对对抗攻击安全。我们通过实验证明了个体对抗扰动（IAP）和通用对抗扰动（UAP）的存在，它们可以导致性能良好的FFM行为失常。基于迭代过程，利用梯度信息生成两种可用于伪造分类和分割输出的IAP。相比之下，UAP是基于过度激发生成的。我们设计了一个新的目标函数，促使神经元过度激发，使得即使不使用训练数据也能生成UAP。实验证明了UAP在未知数据集和未知FFM之间的可迁移性。此外，我们对对抗扰动的不可感知性进行了主观评估，揭示所构造的UAP在视觉上可忽略。这些发现为评估FFM的对抗安全性提供了基线。
引用
@article{arxiv.1911.00660,
title = {Security of Facial Forensics Models Against Adversarial Attacks},
author = {Rong Huang and Fuming Fang and Huy H. Nguyen and Junichi Yamagishi and Isao Echizen},
journal= {arXiv preprint arXiv:1911.00660},
year = {2020}
}
备注
Accepted by ICIP 2020