隐私增强的参数高效微调：张量列车分解改善差分隐私随机梯度下降下的隐私-效用权衡
密码学与安全
2026-01-16 v1
摘要
在敏感数据上微调大语言模型会带来显著的隐私风险，因为成员推理攻击可以揭示训练期间是否使用了特定记录。虽然差分隐私（DP）提供了形式化保护，但将 DP 应用于传统的参数高效微调（PEFT）方法（如低秩适应 LoRA）通常会导致严重的效用损失。在这项工作中，我们证明了一种结构上更受约束的 PEFT 架构——张量列车低秩适应（TTLoRA），可以通过缩小有效参数空间同时保持表达能力来改善隐私-效用权衡。为此，我们开发了 TTLoRA-DP，这是一个用于 TTLoRA 的差分隐私训练框架。具体来说，我们通过缓存的收缩状态将幽灵裁剪算法扩展到张量列车核心，从而实现了高效的差分隐私随机梯度下降（DP-SGD），并能精确计算每个样本的梯度范数，而无需实例化完整的每个样本梯度。在 Enron 和 Penn Treebank 数据集上对 GPT-2 进行微调的实验表明，TTLoRA-DP 相对于 LoRA-DP 持续增强了隐私保护，同时保持了可比甚至更好的下游效用。此外，即使没有 DP 训练，TTLoRA 也表现出更低的成员泄露，使用的适配器显著更小，且平均参数数量比 LoRA 少 7.6 倍。总体而言，我们的结果表明，TTLoRA 为在参数高效的语言模型适应中改善隐私-效用权衡提供了一条实用路径。
引用
@article{arxiv.2601.10045,
title = {Privacy Enhanced PEFT: Tensor Train Decomposition Improves Privacy Utility Tradeoffs under DP-SGD},
author = {Pradip Kunwar and Minh Vu and Maanak Gupta and Manish Bhattarai},
journal= {arXiv preprint arXiv:2601.10045},
year = {2026}
}