FedBPT:面向大语言模型的高效联邦黑盒提示微调
计算与语言
2023-10-04 v1 人工智能
摘要
预训练语言模型(PLM)已彻底改变了自然语言处理(NLP)领域,在多种任务上取得了卓越性能。这些模型虽受益于海量训练数据,通常仍需在特定数据上微调以适配不同下游任务。然而,该数据适配过程存在固有的安全与隐私隐患,尤其在使用用户生成、驻留于设备的数据时。联邦学习(FL)提供了一种解决方案,可在无需集中收集数据的情况下实现协作式模型微调。但将 FL 应用于微调 PLM 面临诸多挑战,包括模型参数访问受限、高计算需求与通信开销。本文提出联邦黑盒提示微调(FedBPT),一个旨在应对上述挑战的框架。FedBPT 不要求客户端访问模型参数。通过专注于训练最优提示并利用无梯度优化方法,FedBPT 减少了交换变量数量、提升通信效率,并最小化计算与存储成本。实验表明该框架能在保持有竞争力性能的同时大幅削减通信与内存成本。最终,FedBPT 为大语言模型时代高效、隐私保护的 PLM 微调提供了一种有前景的方案。
引用
@article{arxiv.2310.01467,
title = {FedBPT: Efficient Federated Black-box Prompt Tuning for Large Language Models},
author = {Jingwei Sun and Ziyue Xu and Hongxu Yin and Dong Yang and Daguang Xu and Yiran Chen and Holger R. Roth},
journal= {arXiv preprint arXiv:2310.01467},
year = {2023}
}