面向大模型的参数高效微调的标签隐私保护
机器学习
2024-12-24 v1 密码学与安全
摘要
随着深度学习模型规模的扩大与昂贵，不少实践者转向使用微调 API。这些 Web 服务允许客户端（提供数据的方）与托管模型的服务器方之间进行模型微调。虽然便利，但这些 API 带来了新的隐私风险：客户端的数据在训练期间可能遭到泄露。此挑战构成了垂直联邦学习的一个重要实际案例，即两方对大模型进行参数高效微调 (Parameter-Efficient Fine-Tuning, PEFT)。本研究系统性地寻找一种在 API 上保持标签隐私的微调方法。我们分析了 LoRA（一种流行的用于 API 训练的参数高效微调方法）的隐私性。基于该分析，我们提出 PEFT，一种多方 split learning 算法，利用现有 PEFT 属性在更低的性能开销下维持标签隐私。为验证该算法，我们在一系列 NLP 任务上使用 LoRA 适配器对 DeBERTa-v2-XXLarge、Flan-T5 Large 和 LLaMA-2 7B 进行微调。我们发现 PEFT 在多方和两方环境中与现有隐私保护方法相当，同时实现了更高的准确率。
引用
@article{arxiv.2412.16669,
title = {Label Privacy in Split Learning for Large Models with Parameter-Efficient Training},
author = {Philip Zmushko and Marat Mansurov and Ruslan Svirschevski and Denis Kuznedelev and Max Ryabinin and Aleksandr Beznosikov},
journal= {arXiv preprint arXiv:2412.16669},
year = {2024}
}