Cowpox：迈向基于 VLM 的多智能体系统的免疫力
多智能体系统
2025-08-14 v1 人工智能
摘要
基于视觉语言模型（VLM）的智能体是有状态的自主实体，能够通过视觉和语言感知其环境并与之交互。多智能体系统由专门的智能体组成，它们协作解决（复杂的）任务。一个核心的安全属性是鲁棒性，即系统在对抗攻击下应保持其完整性。然而，现有系统的设计缺乏鲁棒性考量，因为对一个智能体的成功利用可以传播并感染其他智能体，从而破坏整个系统的保证。为了解决这个问题，我们提出了一种新的防御方法 Cowpox，以可证明地增强多智能体系统的鲁棒性。它结合了分布式机制，通过将向其他智能体的预期感染数量限制在最低限度来提高智能体的恢复率。其核心思想是生成并分发一种特殊的治愈样本，使智能体在暴露前免受攻击，并帮助恢复已感染的智能体。我们通过实验证明了 Cowpox 的有效性，并提供了理论上的鲁棒性保证。
引用
@article{arxiv.2508.09230,
title = {Cowpox: Towards the Immunity of VLM-based Multi-Agent Systems},
author = {Yutong Wu and Jie Zhang and Yiming Li and Chao Zhang and Qing Guo and Nils Lukas and Tianwei Zhang},
journal= {arXiv preprint arXiv:2508.09230},
year = {2025}
}