检测音乐深度伪造:虽然容易,但实际上很难

在新一代生成模型时代,人工生成内容的检测已成为极其重要的议题。能够在数秒内在用户友好平台上生成可信的几分钟音乐深度伪造的能力,对流媒体服务构成欺诈风险,并对人类艺术家带来不公平的竞争。本文演示了在由真实音频和假重建构成的数据集上训练分类器的可能性(和惊人的易用性),实现了令人信服的 99.8% 准确率。据我们所知,这是首个发布的音乐深度伪造检测器,这一工具将有助于音乐伪造的监管。然而,启发于来自其他领域伪造检测数十年文献,我们强调良好的测试得分并非故事的终点。我们超越直接的机器学习框架,揭示了此类部署检测器可能存在的诸多问题:校准、对音频操作的鲁棒性、对未见模型的泛化、可解释性以及可回溯性可能性。这一第二部分为该领域的未来研究步骤提供了立场,并对日益繁荣的虚假内容检查市场发出警示。