对抗音乐：针对唤醒词检测系统的真实世界音频对抗样本
密码学与安全
2019-12-09 v3 机器学习
声音
摘要
Amazon Alexa 或 Google Assistant 等语音助手依赖唤醒词检测来响应人们的指令，这可能易受音频对抗样本的攻击。在这项工作中，我们以唤醒词检测系统为攻击目标，用一些不显眼的背景音乐干扰模型，在我们的音频对抗样本存在时停用语音助手。我们基于近期文献实现了 Amazon Alexa 的仿真唤醒词检测系统。我们就唤醒词检测准确率针对真实 Alexa 验证了我们的模型。随后我们考虑变换期望计算音频对抗样本，并用可微合成器实现。接着，我们在从真实世界收集的数百条语音样本上数字化验证了我们的音频对抗样本。实验表明，我们能将仿真模型的识别 F1 分数从 93.4% 有效降至 11.0%。最后，我们通过空中传输测试了音频对抗样本，并验证其对 Alexa 有效，将其 F1 分数从 92.5% 降至 11.0%；我们还验证了非对抗音乐在相同声级下不如我们的音乐能有效禁用 Alexa。据我们所知，这是首个针对商用级语音助手唤醒词检测系统的真实世界对抗攻击。我们的代码与演示视频可在 \url{https://www.junchengbillyli.com/AdversarialMusic} 获取。
引用
@article{arxiv.1911.00126,
title = {Adversarial Music: Real World Audio Adversary Against Wake-word Detection System},
author = {Juncheng B. Li and Shuhui Qu and Xinjian Li and Joseph Szurley and J. Zico Kolter and Florian Metze},
journal= {arXiv preprint arXiv:1911.00126},
year = {2019}
}
备注
9 pages, In Proceedings of NeurIPS 2019 Conference