基于蜕变测试的对抗攻击以欺骗 Deepfake 检测器
计算机视觉与模式识别
2022-06-02 v2
摘要
Deepfakes 利用人工智能（AI）技术生成合成媒体，其中一人的肖像被替换为另一人。人们日益担忧 deepfakes 可能被恶意用于制造误导性和有害的数字内容。随着 deepfakes 变得更为普遍，亟需 deepfake 检测技术以帮助识别 deepfake 媒体。当前的 deepfake 检测模型能够达到出色的准确率（>90%）。然而，它们大多局限于同数据集场景，即训练与测试使用同一数据集。大多数模型在跨数据集场景中泛化能力不足，即模型在来自另一来源的未见数据集上测试时表现不佳。此外，SOTA deepfake 检测模型依赖基于神经网络的分类模型，而此类模型已知易受对抗攻击。受对鲁棒 deepfake 检测模型需求的驱动，本研究改编蜕变测试（MT）原理，以帮助识别可能影响所考察模型鲁棒性的潜在因素，同时克服该领域的测试预言问题。蜕变测试被专门选为测试技术，因为它契合我们的需求：基于潜在的大输入域，对具有概率性输出、主要由黑盒组件构成的学习型系统进行测试。我们在 MesoInception-4 与 TwoStreamNet 模型（均为 SOTA deepfake 检测模型）上进行了评估。本研究将化妆应用识别为一种可欺骗 deepfake 检测器的对抗攻击。实验结果表明，当输入数据被化妆扰动时，MesoInception-4 与 TwoStreamNet 模型的性能均下降多达 30\%。
引用
@article{arxiv.2204.08612,
title = {Metamorphic Testing-based Adversarial Attack to Fool Deepfake Detectors},
author = {Nyee Thoang Lim and Meng Yi Kuan and Muxin Pu and Mei Kuan Lim and Chun Yong Chong},
journal= {arXiv preprint arXiv:2204.08612},
year = {2022}
}
备注
paper accepted at 26TH International Conference on Pattern Recognition (ICPR2022)