用于分类与检测说话人与语音识别系统对抗攻击的表示学习
音频与语音处理
2021-07-12 v1
摘要
对抗攻击已成为机器学习应用的主要威胁。在音频领域（例如语音与说话人识别）研究这些攻击并寻找防御方法正引起越来越多的关注。本工作中，我们专注于使用表示学习来分类/检测攻击，依据为攻击算法、威胁模型或信号与对抗噪声比。我们发现文献中的常见攻击可被分类，准确率高达 90%。此外，训练用于分类说话人识别攻击的表示也可用于分类说话人验证和语音识别的攻击。我们还测试了攻击验证任务，需判断两段语音话语是否包含相同攻击。我们观察到模型对未包含在攻击表示模型训练中的攻击算法泛化不佳。受此启发，我们评估了未知攻击检测任务。我们能够以约 19% 的等错误率检测未知攻击，这颇具前景。
引用
@article{arxiv.2107.04448,
title = {Representation Learning to Classify and Detect Adversarial Attacks against Speaker and Speech Recognition Systems},
author = {Jesús Villalba and Sonal Joshi and Piotr Żelasko and Najim Dehak},
journal= {arXiv preprint arXiv:2107.04448},
year = {2021}
}
备注
Accepted at Interspeech 2021