VenoMave：针对语音识别的有针对性投毒攻击
声音
2023-04-24 v3 密码学与安全
机器学习
音频与语音处理
摘要
尽管取得了显著进步，自动语音识别仍易受对抗扰动的攻击。与标准机器学习架构相比，这些攻击更具挑战性，特别是因为语音识别系统的输入是包含语音声学和语言特性的时间序列。提取所有与识别相关的信息需要更复杂的流水线以及专用组件的集合。因此，攻击者需要考虑整个流水线。在本文中，我们提出 VENOMAVE，首个针对语音识别的训练时投毒攻击。与主要研究的规避攻击类似，我们追求相同的目标：使系统对目标音频波形产生攻击者选定的错误转写。然而，与规避攻击不同，我们假设攻击者只能操纵一小部分训练数据，而不在运行时改变目标音频波形。我们在两个数据集上评估了我们的攻击：TIDIGITS 和 Speech Commands。当投毒少于数据集的 0.17% 时，VENOMAVE 在无法访问受害者网络架构或超参数的情况下实现了超过 80.0% 的攻击成功率。在更真实的场景中，当目标音频波形在不同房间通过空气播放时，VENOMAVE 保持了高达 73.3% 的成功率。最后，VENOMAVE 在两种不同模型架构之间实现了 36.4% 的攻击可迁移率。
引用
@article{arxiv.2010.10682,
title = {VenoMave: Targeted Poisoning Against Speech Recognition},
author = {Hojjat Aghakhani and Lea Schönherr and Thorsten Eisenhofer and Dorothea Kolossa and Thorsten Holz and Christopher Kruegel and Giovanni Vigna},
journal= {arXiv preprint arXiv:2010.10682},
year = {2023}
}