ALIF: 基于语言特征的低成本对抗音频攻击方法
密码学与安全
2024-08-06 v1 人工智能
声音
音频与语音处理
摘要
广泛的研究表明，对抗样本(Adversarial Example, AE)对可语音控制智能设备构成严重威胁。最近的研究提出了只需获取自动语音识别(ASR)系统最终转录结果即可的黑箱对抗攻击，但这些攻击通常需要大量查询 ASR，导致高额成本。此外，基于 AE 的对抗音频样本易受 ASR 更新的影响。本文识别了这些限制的根本原因，即无法在深度学习(DL)模型决策边界附近直接构造 AE 攻击样本。基于此观察，我们提出了 ALIF，即首个基于黑箱对抗语言特征攻击管道。我们利用文本到语音(TTS)和 ASR 模型的逆过程，在决策边界所在的语言嵌入空间中生成扰动。基于 ALIF 管道，我们提出了 ALIF-OTL 和 ALIF-OTA 方案，分别用于数字域和物理播放环境下的攻击，针对四个商业 ASR 和语音助理进行测试。广泛的评估表明，ALIF-OTL 和 ALIF-OTA 分别将查询效率提高了 97.7% 和 73.3%，同时保持与现有方法的竞争性能。值得注意的是，ALIF-OTL 可仅通过一次查询生成攻击样本。此外，我们的测试-时间实验验证了该方法对 ASR 更新的鲁棒性。
引用
@article{arxiv.2408.01808,
title = {ALIF: Low-Cost Adversarial Audio Attacks on Black-Box Speech Platforms using Linguistic Features},
author = {Peng Cheng and Yuwei Wang and Peng Huang and Zhongjie Ba and Xiaodong Lin and Feng Lin and Li Lu and Kui Ren},
journal= {arXiv preprint arXiv:2408.01808},
year = {2024}
}
备注
Published in the 2024 IEEE Symposium on Security and Privacy (SP)