面向大型语言模型的自适应个人可识别信息 (PII) 缓解框架
机器学习
2025-01-23 v1 人工智能
密码学与安全
摘要
人工智能 (AI) 面临着全球范围内不断演变的数据保护法律和执法实践的挑战。像 GDPR 和 CCPA 这样的法规对机器学习 (ML) 模型，尤其是涉及个人数据使用的模型，施加了严格的合规要求。这些法律赋予个人数据纠正和删除等权利，使依赖广泛数据集的大型语言模型 (LLM) 的训练和部署变得复杂。公共数据可用性并不保证其可合法用于 ML，进一步放大了这些挑战。本文介绍了一个自适应系统，用于缓解大型语言模型中个人可识别信息 (PII) 和敏感个人信息 (SPI) 的风险。它动态地与多样化的监管框架相一致，并无缝集成到治理、风险与合规 (GRC) 系统中。该系统使用先进的自然语言处理技术、上下文感知分析和基于策略的掩码处理，以确保监管合规。基准测试突出了该系统的有效性，针对护照号码的 F1 分数为 0.95，显著优于 Microsoft Presidio (0.33) 和 Amazon Comprehend (0.54)。在人类评估中，该系统实现了平均用户信任得分 4.6/5，参与者认可其准确性和透明度。观察显示，在 GDPR 下进行更严格的匿名化处理，而在 CCPA 下则允许欠标识化和用户退出。这些结果验证了该系统作为面向企业隐私合规的可扩展且稳健的解决方案。
引用
@article{arxiv.2501.12465,
title = {Adaptive PII Mitigation Framework for Large Language Models},
author = {Shubhi Asthana and Ruchi Mahindru and Bing Zhang and Jorge Sanz},
journal= {arXiv preprint arXiv:2501.12465},
year = {2025}
}
备注
This paper has been accepted at PPAI-25, the 6th AAAI Workshop on Privacy-Preserving Artificial Intelligence