Pr$\epsilon\epsilon$mpt：为 LLM sanitizing 敏感提示
密码学与安全
2025-08-18 v2 机器学习
摘要
大型语言模型（LLM）的兴起引入了新的隐私挑战，尤其是在推理期间，提示中的敏感信息可能暴露给专有 LLM API。在本文中，我们解决在保持响应质量的同时正式保护提示中包含的敏感信息的问题。为此，首先，我们引入一种基于加密的提示 sanitizer 概念，将输入提示转换为保护其敏感 token。其次，我们提出了 Prmpt，一种新的系统实现了提示 sanitizer。Prmpt 将敏感 token 分类为两种类型：（1）LLM 的响应仅取决于格式（如社会安全号、信用卡号）的 token，我们使用格式保持加密（FPE）；（2）响应取决于具体值的 token（如年龄、工资）的 token，我们应用度量差分隐私（mDP）。我们的评估表明，Prmpt 是一种实用的方法，可在保持高实用性方面实现有意义的隐私保证，并且优于先前方法。
关键词
引用
@article{arxiv.2504.05147,
title = {Pr$\epsilon\epsilon$mpt: Sanitizing Sensitive Prompts for LLMs},
author = {Amrita Roy Chowdhury and David Glukhov and Divyam Anshumaan and Prasad Chalasani and Nicolas Papernot and Somesh Jha and Mihir Bellare},
journal= {arXiv preprint arXiv:2504.05147},
year = {2025}
}