Real is not True:针对深度伪造检测的后门攻击
密码学与安全
2024-03-12 v1
摘要
恶意深度伪造应用的泛滥引发了公众的极大担忧,给数字媒体的完整性蒙上了阴影。尽管已开发出高效的深度伪造检测机制,但它们仍然表现出对各类攻击的显著脆弱性。值得注意的是,现有的攻击库主要由对抗样本攻击组成,且主要发生在测试阶段。在本研究中,我们引入了一种名为 Bad-Deepfake 的开创性范式,代表了针对深度伪造检测器的后门攻击的全新尝试。我们的方法依赖于对训练数据子集的策略性操纵,从而能够对训练模型的操作特性施加不成比例的影响。这种操纵利用了深度伪造检测器固有的弱点,使我们能够设计触发器并审慎选择最有效的样本来构建中毒集合。通过这些复杂技术的协同融合,我们取得了卓越的性能——对广泛使用的深度伪造检测器实现了 100% 的攻击成功率 (ASR)。
引用
@article{arxiv.2403.06610,
title = {Real is not True: Backdoor Attacks Against Deepfake Detection},
author = {Hong Sun and Ziqiang Li and Lei Liu and Bin Li},
journal= {arXiv preprint arXiv:2403.06610},
year = {2024}
}
备注
BigDIA 2023