资源受限隐私保护 LLM 交互中预判文本净化效用
密码学与安全
2025-06-16 v3 机器学习
摘要
与在线大型语言模型（LLM）的交互引发了隐私问题，提供商可以从提示词中收集用户及其公司的敏感信息。虽然可以使用差分隐私对文本提示词进行净化，但我们表明，很难预测 LLM 在此类净化提示词上的性能。糟糕的性能对按使用量付费的 LLM 服务造成了明显的经济后果，并浪费了大量计算资源。为此，我们提出了一种中间件架构，利用小型语言模型在给定净化提示词发送给 LLM 之前预测其效用。我们在摘要任务和翻译任务上进行了实验，表明我们的架构有助于防止高达 20% 的提示词造成此类资源浪费。在我们的研究过程中，我们还重现了一篇关于使用差分隐私进行文本净化的高被引论文的实验，并表明一个潜在的、以性能为导向的实现选择极大地改变了输出结果，而该论文并未明确承认这一点。
引用
@article{arxiv.2411.11521,
title = {Preempting Text Sanitization Utility in Resource-Constrained Privacy-Preserving LLM Interactions},
author = {Robin Carpentier and Benjamin Zi Hao Zhao and Hassan Jameel Asghar and Dali Kaafar},
journal= {arXiv preprint arXiv:2411.11521},
year = {2025}
}