GAMA：由领域规则与反驳机制增强的用于隐私保护的通用匿名多智能体系统
人工智能
2025-10-07 v2
摘要
随着大语言模型（LLM）的快速发展，基于LLM的智能体在理解和生成自然语言方面展现出卓越能力，从而在基于LLM的多智能体系统（MAS）中实现了类人协作与信息传递。高性能LLM通常部署在公有云环境的Web服务器上。当任务涉及私有数据时，若不实施智能体隐私保护机制，MAS便无法安全地利用这些LLM。为应对这一挑战，我们提出了一种通用匿名多智能体系统（GAMA），该系统将智能体的工作空间划分为私有空间和公共空间，通过结构化的匿名化机制确保隐私。在私有空间中，智能体处理敏感数据；而在公共Web空间中，仅使用匿名化后的数据。GAMA集成了两个关键模块，以减轻匿名化导致的语义损失：基于领域规则的知识增强（DRKE）和基于反驳的逻辑增强（DLE）。我们在两个通用问答数据集、一个公开的隐私泄露基准以及两个与隐私相关的定制问答数据集上对GAMA进行了评估。结果表明，在任务准确率和隐私保护指标方面，GAMA在所评估的数据集上均优于现有基线。
引用
@article{arxiv.2509.10018,
title = {GAMA: A General Anonymizing Multi-Agent System for Privacy Preservation Enhanced by Domain Rules and Disproof Mechanism},
author = {Hailong Yang and Renhuo Zhao and Guanjin Wang and Zhaohong Deng},
journal= {arXiv preprint arXiv:2509.10018},
year = {2025}
}