零查询对黑箱自动语音识别系统的对抗攻击
密码学与安全
2024-06-28 v1 声音
音频与语音处理
摘要
近年来，针对语音识别系统脆弱性的研究工作不断，揭示了黑箱对抗样本攻击对现实语音识别系统构成重大威胁。然而，大多数现有黑箱攻击依赖于对目标语音识别系统的查询，这在查询被禁止时是不可行的。本文提出了 ZQ-Attack，这是一种针对零查询黑箱环境下语音识别系统的迁移式对抗攻击方法。通过对现代语音识别技术进行全面综述和分类，我们首先仔细挑选了不同类型的替代语音识别系统，以生成对抗样本。随后，ZQ-Attack 以缩放后的目标命令音频初始化对抗扰动，使其相对不可感知且保持有效性。 subsequently，为实现对抗扰动的高迁移性，我们提出了一种顺序集成优化算法，该算法在每个替代模型上迭代优化对抗扰动，利用其他模型提供的协作信息。我们进行了大量实验以评估 ZQ-Attack。在越界场景下，ZQ-Attack 在 4 个在线语音识别服务上实现了 100% 的攻击成功率 (SRoA)，平均信噪比 (SNR) 为 21.91 dB；在 16 个开源语音识别系统上，平均 SRoA 为 100%，SNR 为 19.67 dB。对于商业智能语音控制设备，ZQ-Attack 在越穿透场景下实现了 100% 的 SRoA，平均 SNR 为 15.77 dB。
引用
@article{arxiv.2406.19311,
title = {Zero-Query Adversarial Attack on Black-box Automatic Speech Recognition Systems},
author = {Zheng Fang and Tao Wang and Lingchen Zhao and Shenyi Zhang and Bowen Li and Yunjie Ge and Qi Li and Chao Shen and Qian Wang},
journal= {arXiv preprint arXiv:2406.19311},
year = {2024}
}
备注
To appear in the Proceedings of The ACM Conference on Computer and Communications Security (CCS), 2024