Casper：保护基于 Web 的大型语言模型用户隐私的提示净化
密码学与安全
2025-12-04 v1 人工智能
摘要
基于 Web 的大型语言模型（LLM）服务已被广泛采用，已成为我们互联网体验的重要组成部分。第三方插件通过访问现实世界的数据和服务来增强 LLM 的功能。然而，这些服务及其第三方插件相关的隐私后果尚不明确。敏感的提示数据被基于云的 LLM 提供商和第三方插件存储、处理和共享。在本文中，我们提出了 Casper，一种提示净化技术，旨在通过在将用户输入发送给 LLM 服务之前检测并移除敏感信息来保护用户隐私。Casper 完全在用户设备上以浏览器扩展的形式运行，无需对在线 LLM 服务进行任何更改。Casper 的核心是一个三层净化机制，包括基于规则的过滤器、基于机器学习的命名实体识别器以及基于浏览器的本地 LLM 主题识别器。我们在 4000 条合成提示数据集上评估了 Casper，结果表明它能够以高精度有效过滤个人身份信息（PII）和隐私敏感主题，准确率分别为 98.5% 和 89.9%。
引用
@article{arxiv.2408.07004,
title = {Casper: Prompt Sanitization for Protecting User Privacy in Web-Based Large Language Models},
author = {Chun Jie Chong and Chenxi Hou and Zhihao Yao and Seyed Mohammadjavad Seyed Talebi},
journal= {arXiv preprint arXiv:2408.07004},
year = {2025}
}