针对ASR系统的对抗攻击综述
声音
2022-08-05 v1 人工智能
计算与语言
密码学与安全
音频与语音处理
摘要
随着硬件与算法的发展，ASR（自动语音识别）系统演进颇多。随着模型变得更简单，开发与部署难度降低，ASR系统正日益贴近我们的生活。一方面，我们常使用ASR的APP或API来生成字幕与记录会议。另一方面，智能音箱与自动驾驶汽车依赖ASR系统来控制AIoT设备。过去几年中，大量工作致力于针对ASR系统的对抗样本攻击。通过对波形添加微小扰动，识别结果便产生巨大差异。在本文中，我们描述ASR系统的发展、不同的攻击假设，以及如何评估这些攻击。接下来，我们从白盒攻击与黑盒攻击两种攻击假设介绍当前关于对抗样本攻击的工作。与其他综述不同，我们更关注它们在ASR系统中扰动波形的层级、这些攻击之间的关系及其实现方法。我们聚焦于它们工作的效果。
引用
@article{arxiv.2208.02250,
title = {Adversarial Attacks on ASR Systems: An Overview},
author = {Xiao Zhang and Hao Tan and Xuan Huang and Denghui Zhang and Keke Tang and Zhaoquan Gu},
journal= {arXiv preprint arXiv:2208.02250},
year = {2022}
}