WaveGuard：理解与缓解音频对抗样本
密码学与安全
2021-03-08 v1 机器学习
声音
音频与语音处理
摘要
近期针对基于深度学习的自动语音识别（ASR）系统的对抗攻击激增。这些攻击给深度学习安全性带来了新挑战，并在将 ASR 系统部署于安全关键应用时引发了重大担忧。在这项工作中，我们引入了 WaveGuard：一个用于检测针对 ASR 系统精心构造的对抗输入的框架。我们的框架结合音频变换函数，并分析原始与变换后音频的 ASR 转写结果以检测对抗输入。我们证明我们的防御框架能够可靠地检测由四种近期音频对抗攻击构造的对抗样本，且适用多种音频变换函数。在谨慎遵循防御评估最佳实践的前提下，我们分析了所提出的防御及其抵御音频域中自适应与鲁棒攻击的能力。我们通过实验证明，从感知驱动的表示中恢复音频的音频变换可带来一种强防御，即使在完全白盒设定下也能对自适应对手保持鲁棒。此外，WaveGuard 可开箱即用，并直接与任何 ASR 模型集成以高效检测音频对抗样本，无需重新训练模型。
引用
@article{arxiv.2103.03344,
title = {WaveGuard: Understanding and Mitigating Audio Adversarial Examples},
author = {Shehzeen Hussain and Paarth Neekhara and Shlomo Dubnov and Julian McAuley and Farinaz Koushanfar},
journal= {arXiv preprint arXiv:2103.03344},
year = {2021}
}
备注
Published as a conference paper at Usenix Security 2021