通过定向对抗攻击探索语音翻译系统漏洞
声音
2025-03-06 v2 人工智能
密码学与安全
音频与语音处理
摘要
随着语音翻译（ST）系统变得越来越普遍，理解其漏洞对于确保稳健可靠的沟通至关重要。然而，已有工作在深度探索这一问题方面有限。本文探索了通过不可感知的音频操纵来破坏这些系统的 метод。具体而言，我们提出了两种创新方法：（1）注入源音频中的扰动，（2）生成用于引导定向翻译的对抗性音乐，同时也在物理世界中进行更实用的 over-the-air 攻击。我们的实验表明，精心精制的音频扰动可以误导翻译模型以产生定向有害输出，而对抗性音乐更为隐蔽地实现了这一目标，利用音乐的天然不可感知性。这些攻击在多种语言和翻译模型上都有效，凸显了当前 ST 架构中的系统性漏洞。本研究的意义不仅限于 immediate security concerns，更能为神经语音处理系统的可解释性和鲁棒性提供启示。我们的发现凸显了在音频系统领域需要先进防御机制和更具韧性架构的必要性。更多细节和样本请参见 https://adv-st.github.io。
引用
@article{arxiv.2503.00957,
title = {Exploiting Vulnerabilities in Speech Translation Systems through Targeted Adversarial Attacks},
author = {Chang Liu and Haolin Wu and Xi Yang and Kui Zhang and Cong Wu and Weiming Zhang and Nenghai Yu and Tianwei Zhang and Qing Guo and Jie Zhang},
journal= {arXiv preprint arXiv:2503.00957},
year = {2025}
}
备注
Preprint,17 pages, 17 figures