DP-OPT：让大型语言模型成为你的隐私保护提示工程师
计算与语言
2024-03-19 v2 人工智能
摘要
大型语言模型（LLM）已成为处理各种任务的主导工具，尤其是在通过提示微调针对特定目标进行定制时。然而，围绕数据隐私的担忧因微调后的提示依赖于敏感私人信息而构成了障碍。一种实用的解决方案是在本地托管 LLM 并使用数据私下优化软提示。然而，当模型所有权受到保护时，托管本地模型便成了问题。替代方法（如将数据发送给模型提供商进行训练）在面对不可信的提供商时会加剧这些隐私问题。在本文中，我们提出了一种名为差分隐私场外提示微调（DP-OPT）的新颖解决方案来应对这一挑战。我们的方法涉及在客户端微调离散提示，然后将其应用于所需的云端模型。我们证明，LLM 自身建议的提示可以在不显著降低性能的情况下进行迁移。为确保提示不泄露私人信息，我们通过将上下文学习与私有示例进行差分隐私（DP）集成，引入了首个隐私保护提示生成机制。使用 DP-OPT，通过 Vicuna-7b 生成隐私保护提示，与在 GPT3.5 上的非隐私上下文学习或本地隐私提示微调相比，能够产生具有竞争力的性能。代码可在 https://github.com/VITA-Group/DP-OPT 获取。
引用
@article{arxiv.2312.03724,
title = {DP-OPT: Make Large Language Model Your Privacy-Preserving Prompt Engineer},
author = {Junyuan Hong and Jiachen T. Wang and Chenhui Zhang and Zhangheng Li and Bo Li and Zhangyang Wang},
journal= {arXiv preprint arXiv:2312.03724},
year = {2024}
}
备注
Accepted to ICLR'24 Splotlight (updated version)