Aegis：面向 AI 语音代理的治理、完整性与安全
密码学与安全
2026-02-10 v1 多智能体系统
摘要
随着 Audio 大型语言模型（ALLM）的快速发展和采纳，语音代理正在被部署到银行、客服和 IT 支持等高风险领域。然而，它们对对抗性滥用的漏洞仍未得到充分探讨。虽然先前工作检查了 ALLM 可信度方面的方面，如有害内容生成和幻觉，但缺乏对语音代理系统性的安全评估。为填补这一空白，我们提出了 Aegis，一个针对语音代理治理、完整性和安全的红队测试框架。Aegis 模型语音代理的真实部署管道，设计了结构化的关键风险情景，包括隐私泄露、特权提升、资源滥用等。我们通过银行呼叫中心、IT 支持和物流领域的案例研究对该框架进行评估。我们的评估显示，虽然访问控制可缓解数据层面的风险，但即使在严格的访问控制下，语音代理仍对无法通过访问限制解决的行为攻击保持脆弱。我们观察到不同模型家族之间存在系统性差异，开源权重模型表现出更高的易受性，凸显了结合访问控制、策略执行和行为监控以保护下一代语音代理的必要性。
引用
@article{arxiv.2602.07379,
title = {Aegis: Towards Governance, Integrity, and Security of AI Voice Agents},
author = {Xiang Li and Pin-Yu Chen and Wenqi Wei},
journal= {arXiv preprint arXiv:2602.07379},
year = {2026}
}