面向大语言模型的高效隐私保护软提示迁移
机器学习
2025-06-23 v1
摘要
提示工程已成为适应大语言模型（LLMs）的主导范式。虽然离散（文本）提示因其可解释性而广泛使用，但软（参数）提示最近在 API 中受到青睐，因为它们能够从更多训练样本中编码信息，同时最小化用户的 token 使用，为任务特定输入在上下文窗口中留下更多空间。然而，软提示与其微调的 LLM 紧密耦合，限制了其对其他 LLM 的泛化。这一约束在效率和隐私方面尤其棘手：（1）在每个 LLM 上微调提示会导致高计算成本，尤其是随着 LLM 持续增大。（2）当 LLM 托管在外部环境时，软提示微调通常需要与 LLM 提供商共享私有数据。例如，这在 NVIDIA NeMo API 中就是如此。为解决这些问题，我们提出了 POST（Privacy Of Soft prompt Transfer），一个框架，使能够在小模型上进行私有微调的软提示，然后将其迁移到更大的 LLM。POST 使用知识蒸馏直接从大 LLM 中导出小模型以提高提示可迁移性，在小模型上本地微调软提示，可选带有差分隐私保证，然后通过小型公共数据集将其迁移回更大的 LLM。我们的实验表明，POST 减少了计算成本，保持了隐私，同时有效地迁移了高实用性的软提示。
引用
@article{arxiv.2506.16196,
title = {Efficient and Privacy-Preserving Soft Prompt Transfer for LLMs},
author = {Xun Wang and Jing Xu and Franziska Boenisch and Michael Backes and Christopher A. Choquette-Choo and Adam Dziedzic},
journal= {arXiv preprint arXiv:2506.16196},
year = {2025}
}
备注
Accepted at ICML2025