用于保护与语言模型交互中敏感数据隐私的多智能体防火墙架构

虽然大型语言模型（LLM）已成为必不可少的生产力工具，但在没有足够保障措施的情况下将其整合到工作流中会产生重大风险。本文提出了一种开源、注重隐私、面向用户的防火墙，旨在保护基于 Web 和编程的 LLM 交互。该架构结合了浏览器扩展和代理，可全面拦截 HTTP(S) 和 WebSocket 通信上的流量。其核心是一个灵活的多智能体流水线，通过结合确定性检测器与 LLM 驱动的语义分析的混合方法来防止数据泄露，防止专有代码泄露，并为未来的安全增强（如提示注入规避）设计了可扩展组件。该框架的分层架构支持跨异构环境部署，允许组织平衡计算成本、检测深度和延迟。评估结果表明，在最佳配置下它实现了高达 94.93% 的 F1 分数。