面向多主体协作系统的可形式化验证隐私政策执行范式——Maris
密码学与安全
2026-03-04 v3
摘要
多主体协作系统（MACS）由大型语言模型（LLM）驱动，通过利用每个主体的专业知识以及主体之间的交流，高效地解决复杂问题。然而，由于主体之间信息的交换以及与外部环境（如LLM、工具和用户）的交互，必然引入显著的敏感数据泄露风险，包括窃听和提示注入等攻击。现有的MACS缺乏细粒度的数据保护控制，难以安全地管理敏感信息。本文通过一种隐私增强的MACS开发范式Maris，首次采取措施来缓解MACS的数据泄露威胁。Maris通过在关键多主体对话组件中嵌入参考监控器，实现对MACS内部消息流的严格控制。我们将Maris作为广泛采用的开源多主体开发框架AutoGen和LangChain的组成部分进行实现。为评估其有效性，我们开发了一个模拟不同威胁情景下的MACS的隐私评估框架。我们的评估显示，Maris在保持高任务成功率的同时，有效地缓解了三个不同任务套件中的敏感数据泄露威胁。
引用
@article{arxiv.2505.04799,
title = {Maris: A Formally Verifiable Privacy Policy Enforcement Paradigm for Multi-Agent Collaboration Systems},
author = {Jian Cui and Zichuan Li and Luyi Xing and Xiaojing Liao},
journal= {arXiv preprint arXiv:2505.04799},
year = {2026}
}