Deepfake检测器是DUMB：评估可迁移性约束下的对抗训练鲁棒性基准
计算机视觉与模式识别
2026-01-12 v1 密码学与安全
摘要
部署在真实环境中的Deepfake检测系统会受到能够制造难以察觉的扰动以降低模型性能的对手的影响。虽然对抗训练是一种广泛采用的防御手段，但其在现实条件下的有效性——即攻击者在有限知识和不匹配数据分布下操作——仍未被充分探索。在这项工作中，我们将DUMB——数据来源、模型架构和平衡——以及DUMBer方法扩展到Deepfake检测。我们评估了检测器在可迁移性约束和跨数据集配置下对抗攻击的鲁棒性，以提取真实世界的见解。我们的研究涵盖了五个最先进的检测器（RECCE、SRM、XCeption、UCF、SPSL）、三种攻击（PGD、FGSM、FPBA）和两个数据集（FaceForensics++ 和 Celeb-DF-V2）。我们从攻击者和防御者的角度分析了结果，并将其映射到不匹配场景。实验表明，对抗训练策略在分布内情况下增强了鲁棒性，但在跨数据集配置下，根据所采用的策略，也可能降低鲁棒性。这些发现突显了在暴露于对抗攻击的真实世界应用中，需要根据具体情况制定防御策略。
引用
@article{arxiv.2601.05986,
title = {Deepfake detectors are DUMB: A benchmark to assess adversarial training robustness under transferability constraints},
author = {Adrian Serrano and Erwan Umlil and Ronan Thomas},
journal= {arXiv preprint arXiv:2601.05986},
year = {2026}
}
备注
10 pages, four tables, one figure