通过扩散模型防御对抗音频
声音
2023-03-06 v1 密码学与安全
机器学习
音频与语音处理
摘要
近年来，深度学习模型已广泛应用于商业声学系统。然而，对抗音频样本会导致这些声学系统出现异常行为，且人类难以察觉。人们提出了多种方法（如基于变换的防御和对抗训练）来保护声学系统免受对抗攻击，但它们对自适应攻击效果较差。此外，由于音频数据的独特属性，直接套用图像领域的方法会导致次优结果。在本文中，我们提出了一种基于对抗净化的防御流程 AudioPure，通过现成的扩散模型用于声学系统。利用扩散模型强大的生成能力，AudioPure 首先向对抗音频添加少量噪声，然后运行反向采样步骤以净化带噪音频并恢复干净音频。AudioPure 是一种即插即用的方法，可直接应用于任何预训练分类器，无需微调或重新训练。我们在语音命令识别任务上进行了大量实验以评估 AudioPure 的鲁棒性。我们的方法对多种对抗攻击（如 或 -范数）有效。在受 或 -范数约束的强自适应白盒和黑盒攻击下，它优于现有方法（鲁棒准确性提升高达 +20%）。此外，我们还通过随机平滑评估了受 -范数约束扰动的认证鲁棒性。我们的流程取得了比基线更高的认证准确率。
引用
@article{arxiv.2303.01507,
title = {Defending against Adversarial Audio via Diffusion Model},
author = {Shutong Wu and Jiongxiao Wang and Wei Ping and Weili Nie and Chaowei Xiao},
journal= {arXiv preprint arXiv:2303.01507},
year = {2023}
}