关于音频对抗样本的人类评估

人机交互日益依赖于语音通信。机器学习模型通常被用于理解人类的语音指令。然而，这些模型可能被对抗样本所欺骗，对抗样本是故意被扰动以产生错误预测且不被察觉的输入。虽然大量研究集中于开发新技术来生成对抗扰动，但较少关注决定人类是否以及如何察觉这些扰动的因素。这一问题十分重要，因为所提出的对抗扰动策略只有在扰动不可被察觉时才具有高的欺骗率价值。本文研究了文献中针对音频对抗样本提出的、且通常用于评估生成这些攻击方法有效性的失真度量，在多大程度上是人对扰动感知的可靠度量。通过一个分析框架，以及一个由18名受试者评估音频对抗样本的实验，我们证明了常规采用的度量并不是音频域中对抗样本感知相似性的可靠度量。