通过随机平滑增强大语言模型驱动的多智能体系统的鲁棒性
人工智能
2025-07-08 v1 多智能体系统
摘要
本文提出了一种防御框架，用于增强在航空航天等安全关键领域中由大语言模型（LLM）赋能的多智能体系统（MAS）的安全性。我们将随机平滑（一种统计鲁棒性认证技术）应用于 MAS 共识上下文，从而在对抗性影响下为智能体决策提供概率性保证。与传统的验证方法不同，我们的方法在黑盒设置下运行，并采用两阶段自适应采样机制来平衡鲁棒性和计算效率。仿真结果表明，我们的方法在保持共识性能的同时，有效阻止了对抗行为和幻觉的传播。这项工作为在现实世界高风险环境中安全部署基于 LLM 的 MAS 提供了一条实用且可扩展的路径。
引用
@article{arxiv.2507.04105,
title = {Enhancing Robustness of LLM-Driven Multi-Agent Systems through Randomized Smoothing},
author = {Jinwei Hu and Yi Dong and Zhengtao Ding and Xiaowei Huang},
journal= {arXiv preprint arXiv:2507.04105},
year = {2025}
}
备注
Preprint accepted by Chinese Journal of Aeronautics