面向基于查询的音频对抗攻击的通用防御
音频与语音处理
2023-04-21 v1 密码学与安全
声音
摘要
近期研究表明，基于深度学习的自动语音识别（ASR）系统易受对抗样本（AEs）攻击，后者在原始音频样本上添加少量噪声。这些AE攻击对深度学习安全提出新挑战，并引发对部署ASR系统与设备的重大担忧。现有防御方法或应用受限，或仅针对结果而非过程防御。本工作中，我们提出一种基于AEs生成过程推断攻击者意图并发现音频对抗样本的新方法。该方法洞见源于如下观察：许多现有音频AE攻击利用基于查询的方法，即攻击者在音频AE生成过程中必须向目标ASR模型发送连续且相似的查询。受此启发，我们采用音频指纹技术提出一种记忆机制，以分析当前查询与一定长度记忆查询的相似性。从而我们可识别何时出现疑似生成音频AE的查询序列。通过对四种最先进音频AE攻击的广泛评估，我们证明该防御平均以超90%准确率识别攻击者意图。在细致考量鲁棒性评估下，我们还分析所提防御及其抵御两种自适应攻击的能力。最后，我们的方案开箱可用，且直接与任何ASR防御模型集成兼容，无需模型重训练即可有效揭示音频AE攻击。
引用
@article{arxiv.2304.10088,
title = {Towards the Universal Defense for Query-Based Audio Adversarial Attacks},
author = {Feng Guo and Zheng Sun and Yuxuan Chen and Lei Ju},
journal= {arXiv preprint arXiv:2304.10088},
year = {2023}
}
备注
Submitted to Cybersecurity journal