当前深度伪造音频检测模型能否有效检测基于 ALM 的深度伪造音频？
声音
2024-08-21 v1 人工智能
音频与语音处理
摘要
目前，音频语言模型（ALM）由于大型语言模型和音频神经编解码器的发展而迅速进步。这些 ALM 大幅降低了创建深度伪造音频的门槛，生成高度逼真且多样化的深度伪造音频，对社会构成严重威胁。因此，有效的音频深度伪造检测技术以检测基于 ALM 的音频变得日益关键。本文研究了当前对抗措施（CM）针对基于 ALM 音频的有效性。具体而言，我们收集了 12 种最新的基于 ALM 的深度伪造音频，并利用最新的 CM 进行评估。我们的研究结果表明，最新的基于编解码器训练的 CM 能够有效检测基于 ALM 的音频，在大多数 ALM 测试条件下实现了 0% 等错误率，超出了我们的预期。这为未来基于 ALM 的深度伪造音频检测研究指明了有前景的方向。
引用
@article{arxiv.2408.10853,
title = {Does Current Deepfake Audio Detection Model Effectively Detect ALM-based Deepfake Audio?},
author = {Yuankun Xie and Chenxu Xiong and Xiaopeng Wang and Zhiyong Wang and Yi Lu and Xin Qi and Ruibo Fu and Yukun Liu and Zhengqi Wen and Jianhua Tao and Guanjun Li and Long Ye},
journal= {arXiv preprint arXiv:2408.10853},
year = {2024}
}