你听到了吗？针对自动语音识别的对抗样本
计算与语言
2018-01-03 v1 密码学与安全
摘要
语音是人类之间常见且有效的交流方式，现代消费设备如智能手机和家庭中枢配备了基于深度学习的精准自动语音识别，以实现人机自然交互。近期，研究者展示了对机器学习模型的强大攻击，可欺骗其产生错误结果。然而，几乎所有先前的对抗攻击研究都聚焦于图像识别和目标检测模型。在这篇短文里，我们展示了针对语音分类模型的首次对抗攻击演示。我们的算法通过添加微小背景噪声，在无需知晓底层模型参数和架构的情况下实现87%成功率的定向攻击。我们的攻击仅改变部分音频片段样本的最低有效位，且根据我们人类研究的评估，该噪声不改变89%人类听者对音频片段的感知。
引用
@article{arxiv.1801.00554,
title = {Did you hear that? Adversarial Examples Against Automatic Speech Recognition},
author = {Moustafa Alzantot and Bharathan Balaji and Mani Srivastava},
journal= {arXiv preprint arXiv:1801.00554},
year = {2018}
}
备注
Published in NIPS 2017 Machine Deception workshop