无线网络上基于分离式联邦 LoRA 的预训练基础模型联邦微调
系统与控制
2024-07-04 v1 系统与控制
摘要
预训练基础模型（FMs）拥有大量神经元，是推动下一代智能服务的关键，其中个人化这些模型需要大量任务特定数据和计算资源。当前主流方案在边缘服务器上进行集中处理，然而由于传输原始数据，存在隐私问题。相反，联邦微调（FedFT）是一种新兴的隐私保护式微调（FT）范式，用于针对预训练基础模型进行个性化。在特定情况下，通过将低秩适应（LoRA）与联邦学习（FL）集成，联邦 LoRA 能够在边缘设备上实现全局模型的协作式微调，虽训练参数较少，却能在分布式数据上实现与完整微调相当的学习性能，同时保留原始数据隐私。然而，边缘设备的有限无线资源和计算能力为在无线网络上部署联邦 LoRA 带来了重大挑战。为此，本文提出一种分离式联邦 LoRA 框架，将预训练模型计算密集型编码器部署在边缘服务器上，而将嵌入和任务模块保留在边缘设备上。基于此分离框架，本文对无线联邦 LoRA 系统的收敛间隙进行了严格分析。该分析促使我们构建一个长期间隙最小化问题，其中我们采用 Lyapunov 技术将所构建的长期混合整数规划（MIP）问题分解为顺序子问题。随后，我们开发了一个用于有效设备调度和带宽分配的在线算法。仿真结果表明，所提出的在线算法在提升学习性能方面具有有效性。
引用
@article{arxiv.2407.02924,
title = {Federated Fine-Tuning for Pre-Trained Foundation Models Over Wireless Networks},
author = {Zixin Wang and Yong Zhou and Yuanming Shi and Khaled. B. Letaief},
journal= {arXiv preprint arXiv:2407.02924},
year = {2024}
}