利用 Dropout 不确定性检测 ASR 系统上的音频攻击
音频与语音处理
2020-09-16 v2 密码学与安全
机器学习
声音
机器学习
摘要
近来已开发出多种对抗性音频攻击以欺骗自动语音识别（ASR）系统。我们在此提出一种基于神经网络中 dropout 所引入不确定性的防御手段。我们表明，我们的防御能够检测在最先进端到端 ASR 系统上通过优化扰动与频率掩蔽创建的攻击。此外，该防御可针对免疫于噪声削减的攻击保持鲁棒。我们在 Mozilla 的 CommonVoice 数据集、UrbanSound 数据集与 LibriSpeech 数据集的节选上测试了我们的防御，表明其在广泛场景中实现了高检测准确率。
引用
@article{arxiv.2006.01906,
title = {Detecting Audio Attacks on ASR Systems with Dropout Uncertainty},
author = {Tejas Jayashankar and Jonathan Le Roux and Pierre Moulin},
journal= {arXiv preprint arXiv:2006.01906},
year = {2020}
}
备注
Accepted for publication at Interspeech 2020