音频深度伪造检测中的可迁移对抗攻击
声音
2025-01-22 v1 音频与语音处理
摘要
音频深度伪造构成重大威胁，包括冒充、欺诈和声誉损害。为应对这些风险，已开发出音频深度伪造检测（audio deepfake detection，ADD）技术，在 ASVspoof2019 等基准数据集上取得成功。然而，这些技术针对可迁移对抗攻击的韧性仍基本未被探索。本文引入一种基于生成对抗网络（GAN）的可迁移对抗攻击框架，用于评估当前最先进（SOTA）ADD 系统的有效性。通过利用代理 ADD 模型的集成和判别器，该方法生成更贴近现实场景的可迁移对抗攻击。不同于以往方法，本框架采用自监督音频模型确保转录和感知完整性，产生高质量对抗攻击。实验结果表明，SOTA ADD 系统暴露于显著漏洞，其准确率在白盒、灰盒和黑盒场景分别下降至 26%、54% 和 84%。在其他数据集中，针对 In-the-Wild 和 WaveFake 数据集，性能分别下降 91% 到 46% 和 94% 到 67%。这些结果凸显了现有 ADD 系统的重要漏洞，强调需增强其对抗先进对抗威胁的韧性，以确保安全可靠。
引用
@article{arxiv.2501.11902,
title = {Transferable Adversarial Attacks on Audio Deepfake Detection},
author = {Muhammad Umar Farooq and Awais Khan and Kutub Uddin and Khalid Mahmood Malik},
journal= {arXiv preprint arXiv:2501.11902},
year = {2025}
}