通过混合少样本与零样本输出的差分隐私上下文学习
机器学习
2025-02-03 v1
摘要
上下文学习 (ICL) 通过在提示中增加相关的输入-输出示例（演示），在 LLM 的下游任务适配中展现出显著的改进。然而，ICL 演示可能包含隐私敏感信息，这些信息可能会被 LLM 输出泄露或复现。差分隐私 (DP) 作为一种广泛采用的隐私保护措施，已被用于缓解此类隐私泄露，近期的研究表明 ICL 分类任务中存在良好的隐私-效用权衡。然而，由于开放式生成的高维输出空间，ICL 生成任务面临挑战。为此，我们提出 （混合 One-shot 与 Zero-shot 输出的差分隐私采样），这是一种通过从多个 one-shot 输出与一个 zero-shot 输出混合的乘积中进行采样来生成 DP 文本的解码框架。这种混合有效减少了每个演示可能泄露的信息量。通过利用从混合分布中采样的固有随机性，我们无需添加噪声即可实现 DP，从而改善了隐私-效用权衡。实验评估表明，与非隐私的少样本学习相比， 能够实现强隐私保证（）且效用下降极小，在使用 Gemma 2 2B 的 SAMSum 数据集上 ROUGE-L F1 分数仅降低 %。
引用
@article{arxiv.2501.19287,
title = {Differentially Private In-context Learning via Sampling Few-shot Mixed with Zero-shot Outputs},
author = {James Flemings and Haosheng Gan and Hongyi Li and Meisam Razaviyayn and Murali Annavaram},
journal= {arXiv preprint arXiv:2501.19287},
year = {2025}
}