面向音频大语言模型的编解码器鲁棐性攻击
声音
2026-05-25 v2 人工智能
摘要
先前针对音频大语言模型（Audio LLM）的攻击表明，精心设计的波形域扰动可迫使生成特定对抗输出。作为对这些攻击的防御机制，针对这些攻击的编解码器压缩预处理用于检测和移除扰动。然而，现有任何攻击都未展示对这些压缩的鲁棐性。我们引入CodecAttack，通过优化编解码器连续潜在空间中的扰动，而非直接扰动音频波形。我们表明，编解码器的压缩通道会丢弃波形扰动，却传输自身潜在空间中设计的扰动。为进一步加强攻击在真实世界压缩通道中的鲁棐性，我们应用多比特率的直通期望/转换（EoT），而无需修改目标模型。在三个真实可部署的Audio LLM场景和三个目标模型中，CodecAttack在Opus中等比特率下实现平均85.5%的目标子串攻击成功率（ASR），而波形基线在任何比特率下都不超过26%。该攻击可迁移至持留测试编解码器，在MP3上达到最高100%的ASR，在AAC-LC上达到84%，无需重新训练。基于能量的分析表明，潜在扰动集中在4kHz以下，恰好在编解码器分配最多比特的频段，而波形基线则向更高频率扩展，这些频率被编解码器丢弃。这些结果表明，损耗压缩并非对抗音频的可靠防御，编解码器感知的攻击对部署的Audio LLM系统构成实际威胁。
引用
@article{arxiv.2605.20519,
title = {Codec-Robust Attacks on Audio LLMs},
author = {Jaechul Roh and Jean-Philippe Monteuuis and Jonathan Petit and Amir Houmansadr},
journal= {arXiv preprint arXiv:2605.20519},
year = {2026}
}