提升个性化生成中的用户隐私：对服务端生成推测的客户端检索增强修改

个性化对于将大型语言模型（LLM）的输出与个人用户偏好和背景知识对齐至关重要。最先进的解决方案基于检索增强，即从用户配置文件中检索相关上下文供 LLM 使用。这些方法在将检索到的私有数据暴露给云提供商与依赖能力较弱的本地模型之间存在权衡。我们引入了 $P^3$，一个交互式框架，可在不向服务端 LLM 揭示私有配置文件的情况下实现高质量个性化。在 $P^3$ 中，大型服务端模型仅基于用户查询生成一系列 $k$ 个草稿 token，而具有对用户私有配置文件检索访问权限的小型客户端模型评估并修改这些草稿，以更好地反映用户偏好。此过程重复进行，直到生成结束 token。在 LaMP-QA（一个由三个个性化问答数据集组成的最新基准）上的实验表明，$P^3$ 始终优于非个性化服务端和个性化客户端基线，平均获得 $7.4$ 到 $9$ 的统计显著改进。重要的是，$P^3$ 恢复了“泄漏”上界场景（即完整配置文件暴露给大型服务端模型）$90.3$ 到 $95.7$ 的效用。包括链接性和属性推断攻击在内的隐私分析表明，$P^3$ 保持了非个性化服务端模型的隐私，与提交没有任何个人上下文的查询相比，仅引入了微乎其微的额外泄漏（$1.5$--$3.5$）。此外，该框架对于边缘部署是高效的，客户端模型仅生成总 token 的 $9.2$。这些结果表明，$P^3$ 为具有改善隐私的个性化生成提供了一个实用、有效的解决方案。