大语言模型中面向鲁棒指令适应的差分隐私参数高效微调
计算与语言
2025-12-09 v1
摘要
本研究通过提出一种参数高效方法，将差分隐私噪声分配与梯度裁剪在协作优化框架中集成，解决了大规模语言模型指令微调中的隐私保护与效率问题。该方法保持骨干模型冻结，并通过低维投影子空间更新参数，同时在梯度计算过程中引入裁剪与自适应噪声分配。该设计减少了隐私预算消耗，并确保了训练的稳定性与鲁棒性。该统一框架结合了梯度约束、噪声分配与参数投影，有效缓解了多任务指令场景中的性能波动与隐私风险。在超参数、环境与数据敏感性维度上进行了实验。结果表明，该方法在准确率、隐私预算和参数效率方面优于基线模型，并在多样且不确定的数据条件下保持稳定性能。这些发现丰富了差分隐私与参数高效微调的理论整合，并展示了其在指令任务中的实际适应性，为复杂指令环境中的安全训练提供了可行方案。
引用
@article{arxiv.2512.06711,
title = {Parameter-Efficient Fine-Tuning with Differential Privacy for Robust Instruction Adaptation in Large Language Models},
author = {Yulin Huang and Yaxuan Luan and Jinxu Guo and Xiangchen Song and Yuchen Liu},
journal= {arXiv preprint arXiv:2512.06711},
year = {2025}
}