CommanderSong：一种实用的对抗性语音识别系统方法
密码学与安全
2018-07-03 v3 机器学习
声音
音频与语音处理
摘要
ASR（自动语音识别）系统（如 Google Voice、Cortana）的普及带来了安全问题，正如近期攻击所展示的那样。然而，此类威胁的影响尚不清晰，因为它们要么不够隐蔽（产生类噪声的语音命令），要么需要攻击设备的物理存在（使用超声波）。在本文中，我们证明不仅更实用且更隐蔽的攻击是可行的，而且它们甚至可以被自动构造。具体而言，我们发现语音命令可以隐蔽地嵌入到歌曲中，当播放时，这些歌曲可通过 ASR 有效控制目标系统而不被察觉。为此，我们开发了新技术来解决一个关键技术挑战：将命令以这样一种方式集成到歌曲中，使其能在背景噪声下通过空气被 ASR 有效识别，同时不被人类听者察觉。我们的研究表明，这可以针对现实世界的 ASR 应用自动完成。我们还证明此类 CommanderSong 可通过互联网（例如 YouTube）和广播传播，潜在影响数百万 ASR 用户。我们进一步提出了一种控制该威胁的新缓解技术。
引用
@article{arxiv.1801.08535,
title = {CommanderSong: A Systematic Approach for Practical Adversarial Voice Recognition},
author = {Xuejing Yuan and Yuxuan Chen and Yue Zhao and Yunhui Long and Xiaokang Liu and Kai Chen and Shengzhi Zhang and Heqing Huang and Xiaofeng Wang and Carl A. Gunter},
journal= {arXiv preprint arXiv:1801.08535},
year = {2018}
}
备注
Accepted by USENIX Security 2018