面向大语言模型的隐私优先推理委托框架 PFID

本文引入一种新型隐私保护框架，名为 PFID，用于解决大语言模型 (LLM) 中的关键隐私问题，通过模型分片和奇异值分解实现用户数据的本地化。当用户与 LLM 系统交互时，他们的提示可能暴露给系统提供方内部或外部的窃听者，这些窃听者对收集用户输入感兴趣。在本工作中，我们提出了一个框架来掩码用户输入，以缓解隐私问题。我们的框架提出在客户端和公共服务器上放置模型分片，我们发送压缩后的隐藏状态，而不是提示。客户端保留可重新隐私化隐藏状态的信息，以便整体系统性能相当于传统 LLM 服务。我们的框架设计为通信高效，计算可委托给本地客户端，以减轻服务器的计算负担。我们在机器翻译任务上进行了大量实验，以验证框架的性能。