通过不确定性量化检测语音识别中的对抗样本
音频与语音处理
2020-08-04 v2 密码学与安全
机器学习
声音
机器学习
摘要
机器学习系统，特别是自动语音识别（ASR）系统，容易受到对抗攻击，攻击者会恶意更改输入。在 ASR 系统中，最引人关注的是目标攻击，攻击者旨在迫使系统在任意音频样本中识别出给定的目标转录。越来越多复杂的、几乎不可感知的攻击引发了关于对策的问题。在本文中，我们关注混合 ASR 系统，并比较了四种声学模型在遭受攻击时指示不确定性的能力：一个前馈神经网络和三个专门为不确定性量化设计的神经网络，即贝叶斯神经网络、Monte Carlo dropout 和深度集成。我们利用声学模型的不确定性度量构建了一个简单的单类分类模型，用于评估输入是良性的还是对抗性的。基于这种方法，我们能够检测对抗样本，其接收者操作特征曲线下面积得分超过 0.99。用于不确定性量化的神经网络同时降低了受攻击的脆弱性，这体现在与标准混合 ASR 系统相比，恶意目标文本的识别准确率更低。
引用
@article{arxiv.2005.14611,
title = {Detecting Adversarial Examples for Speech Recognition via Uncertainty Quantification},
author = {Sina Däubener and Lea Schönherr and Asja Fischer and Dorothea Kolossa},
journal= {arXiv preprint arXiv:2005.14611},
year = {2020}
}