GradOT：基于梯度保持压缩的无训练离site调优
计算与语言
2025-07-08 v1
摘要
大语言模型（LLM）的传统集中式微调快速增长，成为适应特定领域挑战的关键技术，却带来了模型和数据所有者的隐私风险。一种有前景的解决方案称为离site调优（offsite-tuning, OT），即从原始模型压缩出较弱的模拟器，并进一步通过适配器进行微调以增强隐私。然而，现有 OT 方法需要高计算成本且缺乏理论分析。本文提出一种新型 OT 方法，基于梯度保持压缩，称为 GradOT。通过优化视角分析 OT 问题，我们提出一种方法，选择性地应用秩压缩和通道修剪技术，保留微调适配器的梯度，同时确保隐私。大量实验表明，我们的方法在隐私保护和模型性能方面均优于现有 OT 方法。我们的方法为 OT 提供了理论基础，提供了一种实用的、无需训练的大规模 LLM 离site调优解决方案。
引用
@article{arxiv.2507.04455,
title = {GradOT: Training-free Gradient-preserving Offsite-tuning for Large Language Models},
author = {Kai Yao and Zhaorui Tan and Penglei Gao and Lichun Li and Kaixin Wu and Yinggui Wang and Yuan Zhao and Yixin Ji and Wei Wang and Jianke Zhu},
journal= {arXiv preprint arXiv:2507.04455},
year = {2025}
}
备注
Accepted by ACL 2025 main