一种用于大语言模型微调的拆分与隐私化框架
计算与语言
2023-12-27 v1
摘要
微调是将预训练语言模型适配到下游场景的一项突出技术。在参数高效微调中，仅训练模块的一小部分子集，而将其余预训练模型冻结以节省计算资源。近年来，一种流行的产品化形式应运而生，即模型即服务（Model-as-a-Service, MaaS），其中供应商提供丰富的预训练语言模型、服务器资源和核心功能，客户可以通过访问一站式 MaaS 并使用其自有私有数据集来微调、部署和调用其定制模型。在本文中，我们识别了 MaaS 微调中的模型和数据隐私泄露风险，并提出了一种拆分与隐私化（Split-and-Privatize, SAP）框架，该框架通过适配现有的拆分学习架构来缓解隐私问题。提出的 SAP 框架经过了充分的实验研究，结果表明，在 Stanford Sentiment Treebank 数据集上，该框架能以 1% 的模型性能下降为代价，将经验隐私性提高 62%。
引用
@article{arxiv.2312.15603,
title = {A Split-and-Privatize Framework for Large Language Model Fine-Tuning},
author = {Xicong Shen and Yang Liu and Huiqi Liu and Jue Hong and Bing Duan and Zirui Huang and Yunlong Mao and Ye Wu and Di Wu},
journal= {arXiv preprint arXiv:2312.15603},
year = {2023}
}