扩散模型的高效差分隐私微调
机器学习
2024-06-11 v1 密码学与安全
摘要
扩散模型的最新发展使得生成质量惊人的合成样本成为可能。最近的工作表明，由在公共数据上预训练并在私有数据上使用差分隐私完全微调的扩散模型生成的合成样本，可以训练下游分类器，同时实现良好的隐私-效用权衡。然而，使用DP-SGD完全微调如此大的扩散模型在内存使用和计算方面可能非常耗费资源。在这项工作中，我们研究了使用低维适应（LoDA）和差分隐私的扩散模型参数高效微调（PEFT）。我们使用MNIST和CIFAR-10数据集评估了所提出的方法，并证明了这种高效微调也可以生成有用的合成样本，用于训练下游分类器，同时保证微调数据的隐私保护。我们的源代码将在GitHub上提供。
引用
@article{arxiv.2406.05257,
title = {Efficient Differentially Private Fine-Tuning of Diffusion Models},
author = {Jing Liu and Andrew Lowy and Toshiaki Koike-Akino and Kieran Parsons and Ye Wang},
journal= {arXiv preprint arXiv:2406.05257},
year = {2024}
}