面向抗对抗攻击鲁棒语音识别的序列随机平滑方法
计算与语言
2022-01-12 v2 人工智能
摘要
尽管自动语音识别（Automatic Speech Recognition, ASR）已被证明易受对抗攻击，但针对这些攻击的防御仍相对滞后。现有的朴素防御可被自适应攻击部分攻破。在分类任务中，随机平滑（Randomized Smoothing）范式已被证明能有效防御模型。然而，由于 ASR 任务的复杂性及其输出的序列性质，难以将该范式应用于 ASR 任务。我们的论文通过利用语音专用工具（如增强和 ROVER 投票）来设计对扰动鲁棒的 ASR 模型，从而克服了其中一些挑战。我们将最先进攻击（如 Imperceptible ASR 攻击）的自适应版本应用于我们的模型，并表明我们最强的防御对所有使用不可听噪声的攻击都是鲁棒的，且仅能在极高失真下被攻破。
引用
@article{arxiv.2112.03000,
title = {Sequential Randomized Smoothing for Adversarially Robust Speech Recognition},
author = {Raphael Olivier and Bhiksha Raj},
journal= {arXiv preprint arXiv:2112.03000},
year = {2022}
}
备注
This update adds some relevant references to past and concurrent work