用于语音识别黑盒对抗攻击的神经预测器
声音
2022-03-21 v1 人工智能
机器学习
音频与语音处理
摘要
近期研究揭示了自动语音识别（ASR）模型对对抗样本（AEs）的脆弱性，即微小扰动会导致音频信号转写错误。因此，研究音频对抗攻击是迈向鲁棒 ASR 的第一步。尽管在攻击音频样本方面已取得显著进展，黑盒攻击仍具挑战性，因为仅提供转写的硬标签信息。由于该信息有限，现有黑盒方法通常需要过多查询次数来攻击单个音频样本。本文中，我们引入 NP-Attack，一种基于神经预测器的方法，其逐步将搜索演化至微小对抗扰动。给定扰动方向，我们的神经预测器直接估计导致转写错误的最小扰动。特别地，它使 NP-Attack 能够通过基于梯度的优化准确学习有前景的扰动方向。实验结果表明，NP-Attack 在显著减少查询次数的同时，取得了与其他最先进黑盒对抗攻击相竞争的结果。NP-Attack 的代码已在线提供。
引用
@article{arxiv.2203.09849,
title = {Neural Predictor for Black-Box Adversarial Attacks on Speech Recognition},
author = {Marie Biolková and Bac Nguyen},
journal= {arXiv preprint arXiv:2203.09849},
year = {2022}
}