ConfusionPrompt: 在线大型语言模型的实用私有推理

最先进的大型语言模型（LLM）通常作为在线服务部署，要求用户向云服务器传输详细的提示词。这引发了严重的隐私问题。为此，我们引入了ConfusionPrompt，一个用于私有LLM推理的新颖框架，通过以下方式保护用户隐私：(i) 将原始提示词分解为更小的子提示词，以及(ii) 生成伪提示词与真实子提示词一起发送给LLM。服务器响应随后由用户重新组合以重建最终输出。该方法相比之前的LLM隐私保护方法具有关键优势：(i) 它与现有的黑盒LLM无缝集成，以及(ii) 与现有的文本扰动方法相比，它提供了显著改进的隐私-效用权衡。我们还开发了一个$(\lambda, \mu, \rho)$-隐私模型来制定隐私保护提示组的要求，并提供了复杂性分析以证明提示词分解的作用。我们的实证评估表明，ConfusionPrompt比使用开源模型和基于扰动技术的本地推理方法实现了显著更高的效用，同时与开源LLM相比减少了内存消耗。