用于检测针对自动语音识别对抗样本的孤立与集成音频预处理方法
声音
2018-09-13 v1 计算与语言
密码学与安全
机器学习
神经与进化计算
音频与语音处理
摘要
对抗攻击是一种利用性过程，其中对自然输入做微小改动，使神经网络模型将这些输入误分类。在语音识别领域，这已成为一个日益重要的问题。尽管对抗攻击最初在计算机视觉中被提出，但它们此后已渗入语音识别领域。2017 年，一种遗传攻击被证明对 Speech Commands Model 相当有效。有限词汇量的语音分类器（如 Speech Commands Model）用于多种应用，尤其在电话通信中；因此，该攻击产生的对抗样本构成重大安全威胁。本文探索了利用音频预处理组合检测这些对抗样本的各种方法。一种结合压缩、语音编码、滤波和音频平移的特定联合防御被证明对针对 Speech Commands Model 的攻击相当有效，以 93.5% 精确率和 91.2% 召回率检测音频对抗样本。
引用
@article{arxiv.1809.04397,
title = {Isolated and Ensemble Audio Preprocessing Methods for Detecting Adversarial Examples against Automatic Speech Recognition},
author = {Krishan Rajaratnam and Kunal Shah and Jugal Kalita},
journal= {arXiv preprint arXiv:1809.04397},
year = {2018}
}
备注
Accepted for oral presentation at the 30th Conference on Computational Linguistics and Speech Processing (ROCLING 2018)