面向 LLM 隐私护栏的部署：真实应用中的比较分析
密码学与安全
2025-01-23 v1 人工智能
机器学习
软件工程
摘要
大型语言模型 (LLM) 的广泛应用在保障用户隐私方面带来了重要挑战。确保符合 GDPR 和 CCPA 等隐私法规，同时应对细致的隐私风险，需要稳健且可扩展的框架。本文介绍了 OneShield Privacy Guard 框架，用于在企业和开源环境中缓解用户输入和 LLM 输出中的隐私风险。我们分析了两个真实部署场景：(1) 与 Data and Model Factory 集成的多语言隐私保留系统，侧重企业级数据治理；(2) PR Insights，一个强调自动分类和社区驱动优化的开源仓库。在部署 1 中，OneShield 在 26 种语言中对日期、姓名、电话号码等敏感实体检测出 F1 分数达 0.95，相较于 StarPII 和 Presidio 等最先进工具提升最高可达 12%。部署 2 的平均 F1 分数为 0.86，三个月内手动工作量减少超过 300 小时，准确标记 1256 个拉取请求中的 8.25% 隐私风险，具有更强的上下文敏感性。这些结果表明 OneShield 在不同环境下的灵活性和有效性，为基于上下文的实体识别、自动合规和伦理 AI 采纳提供了可操作的见解。本工作推动了隐私保留框架的发展，支持用户信任和跨操作情境下的合规。
引用
@article{arxiv.2501.12456,
title = {Deploying Privacy Guardrails for LLMs: A Comparative Analysis of Real-World Applications},
author = {Shubhi Asthana and Bing Zhang and Ruchi Mahindru and Chad DeLuca and Anna Lisa Gentile and Sandeep Gopisetty},
journal= {arXiv preprint arXiv:2501.12456},
year = {2025}
}
备注
This paper has been accepted at Deployable AI workshop at AAAI 2025