联邦多智能体系统中的隐私增强范式
人工智能
2025-03-12 v1
摘要
基于大语言模型的多智能体系统（MAS）在通过整合多个执行不同角色的智能体来解决复杂问题方面已被证明非常有效。然而，在敏感领域，它们面临着新兴的隐私保护挑战。在本文中，我们引入了联邦 MAS 的概念，强调了联邦 MAS 与传统联邦学习之间的根本差异。然后我们识别开发联邦 MAS 的关键挑战，包括：1）智能体之间异构的隐私协议，2）多方对话的结构差异，3）动态对话网络结构。为了解决这些挑战，我们提出了嵌入式隐私增强智能体（EPEAgent），一种创新解决方案，无缝集成到检索增强生成（RAG）阶段和上下文检索阶段。该方案最小化了数据流，确保仅共享与任务相关的、智能体特定的信息。此外，我们设计并生成了一个全面的数据集来评估所提出的范式。大量实验表明，EPEAgent 在保持系统强大性能的同时有效增强了隐私保护。代码将在 https://github.com/ZitongShi/EPEAgent 获取。
引用
@article{arxiv.2503.08175,
title = {Privacy-Enhancing Paradigms within Federated Multi-Agent Systems},
author = {Zitong Shi and Guancheng Wan and Wenke Huang and Guibin Zhang and Jiawei Shao and Mang Ye and Carl Yang},
journal= {arXiv preprint arXiv:2503.08175},
year = {2025}
}