语音识别模型在对抗攻击下的近期鲁棒性改进
密码学与安全
2022-04-06 v2 人工智能
机器学习
声音
音频与语音处理
摘要
与许多其他涉及神经网络的任务类似，语音识别(ASR)模型易受对抗攻击。然而近期研究指出了ASR模型与图像模型在攻击与防御上的差异。提升ASR模型的鲁棒性需要从在单一或少数模型上评估攻击，转向系统性的评估范式。我们通过在不同架构上评估一组具代表性的对抗攻击（包括目标与非目标、优化与语音处理基、白盒、黑盒及目标攻击）为此类研究奠定基础。我们的结果表明，不同攻击算法的相对强度在改变模型架构时差异显著，且某些攻击的结果不可盲目信任。结果还表明，诸如自监督预训练等训练选择可通过引发可迁移扰动显著影响其鲁棒性。我们发布了源代码作为一个软件包，应有助于未来评估其攻击与防御的研究。
引用
@article{arxiv.2203.16536,
title = {Recent improvements of ASR models in the face of adversarial attacks},
author = {Raphael Olivier and Bhiksha Raj},
journal= {arXiv preprint arXiv:2203.16536},
year = {2022}
}
备注
Submitted to Interspeech 2022