面向鲁棒性的音频对抗样本
声音
2020-10-15 v1 密码学与安全
机器学习
音频与语音处理
摘要
对抗样本极大威胁基于机器学习的系统的可用性与完整性。虽然此类攻击的可行性最初在图像处理领域被观察到，但近期研究表明语音识别同样易受对抗攻击。然而，可靠地跨越空气间隙（即，使对抗样本在通过麦克风录制时仍生效）迄今仍困扰研究人员。我们发现，由于生成过程中的缺陷，最先进的对抗样本生成方法因目标语音识别系统（如Mozilla Deepspeech）中的分箱操作而导致过拟合。我们设计了一种缓解该缺陷的方法，并发现我们的方法改进了具有不同偏移量的对抗样本生成。我们通过在实际空中（over-the-air）设置下编辑距离的实证比较，确认了我们所提方法的显著改进。我们的方法标志着向空中攻击迈出了重要一步。我们发布了代码及我们方法的可应用实现。
引用
@article{arxiv.2010.07190,
title = {Towards Resistant Audio Adversarial Examples},
author = {Tom Dörr and Karla Markert and Nicolas M. Müller and Konstantin Böttinger},
journal= {arXiv preprint arXiv:2010.07190},
year = {2020}
}