基于朗之万扩散的私有微调训练动力学表征
机器学习
2025-11-10 v2 人工智能
密码学与安全
最优化与控制
摘要
我们通过理论和实证结果证明，差分隐私全微调(DP-FFT)会扭曲预训练骨干特征。我们将扭曲的原因归结为预训练骨干与随机初始化的线性头之间的不对齐。我们证明顺序微调策略可以减轻特征扭曲：先线性探测再微调(DP-LP-FFT)。一种新的近似方案使我们能够在简单但典型的双层ReLU激活神经网络设置中，推导出DP-LP和DP-FFT训练损失的近似上下界。在真实数据集和架构上的实验与我们的理论见解一致。我们还无需近似地推导了双层线性网络的新上界。此外，我们的理论揭示了多阶段微调方法（如DP-LP-FFT）中隐私预算分配的权衡。
引用
@article{arxiv.2402.18905,
title = {Characterizing the Training Dynamics of Private Fine-tuning with Langevin diffusion},
author = {Shuqi Ke and Charlie Hou and Sewoong Oh and Giulia Fanti},
journal= {arXiv preprint arXiv:2402.18905},
year = {2025}
}