攻击者的噪声可在真实世界中操控您的音频 LLM
密码学与安全
2025-07-10 v1 人工智能
声音
音频与语音处理
摘要
本文探讨了基于音频的大语言模型（如 Qwen2-Audio）的真实世界漏洞。首先，我们展示了对手如何制造隐蔽的音频扰动来操控 ALLM 采取特定有针对性的行为，例如激活唤醒关键词（如"Hey Qwen"），或触发有害行为（如"更改我的日历事件"）。随后，我们表明在用户与 ALLM 交互期间播放对抗背景噪声会显著降低响应质量。关键在于，我们的研究表明，这些攻击在真实世界情境中的可扩展性，影响其他无辜用户。进一步，我们讨论了该攻击的可迁移性以及潜在防御措施。
引用
@article{arxiv.2507.06256,
title = {Attacker's Noise Can Manipulate Your Audio-based LLM in the Real World},
author = {Vinu Sankar Sadasivan and Soheil Feizi and Rajiv Mathews and Lun Wang},
journal= {arXiv preprint arXiv:2507.06256},
year = {2025}
}