语音指令分类中的通用对抗样本

对抗样本是指经过刻意扰动、旨在迫使机器学习模型产生错误预测而人类又不易察觉这些改动的输入。尽管该主题在图像领域已被深入研究，音频领域的分类任务受到的关注较少。本文探讨语音指令分类中通用扰动的存在性。我们提供的证据表明，可为语音指令分类任务生成通用攻击，这些攻击能在相当程度上泛化至不同模型。此外，我们提出了一种新颖的分析框架，用于在不同通用性水平下评估通用扰动，证明随着通用性水平的提高，生成有效扰动的可行性会下降。最后，我们提出了一个更细致且严谨的框架来衡量扰动所引入的失真量，表明常规采用的方法在基于音频的问题中并不现实。