ERIS：面向音频大模型的演化式现实干扰方案用于越狱
声音
2026-03-03 v2 人工智能
摘要
现有的音频大模型（ALMs）对齐工作聚焦于干净输入，忽视了复杂环境中的安全风险。我们提出了 ERIS 框架，将现实干扰转化为针对越狱 ALMs 的战略优化载体。不同于依赖手动设计声学图案的方法，ERIS 使用遗传算法优化自然风格信号的选择与合成。通过种群初始化、交叉融合和概率变异，它进化出融合恶意指令于真实环境干扰中的音频。对人类和安全过滤器而言，这些样本呈现为带有无害背景噪声的自然语音，却可绕过对齐机制。评估表明，ERIS 在多个 ALMs 上显著优于文本和音频越狱基线。我们的发现表明，看似无害的现实环境干扰可被利用以规避安全约束，为复杂声学场景中的防御机制提供新视角。
引用
@article{arxiv.2509.11128,
title = {ERIS: Evolutionary Real-world Interference Scheme for Jailbreaking Audio Large Models},
author = {Yibo Zhang and Liang Lin},
journal= {arXiv preprint arXiv:2509.11128},
year = {2026}
}