FedPEAT：联邦学习、参数高效微调与仿真器辅助微调在移动边缘计算下人工智能基础模型中的融合
机器学习
2024-02-29 v2 网络与互联网体系结构
摘要
包括语言和视觉模型在内的基础模型的出现重塑了 AI 的格局，为各类应用提供了能力。部署和微调这些大型模型（如 GPT-3 和 BERT）存在挑战，尤其在当前基础模型时代。我们引入仿真器辅助微调（EAT）并与参数高效微调（PEFT）结合，形成参数高效仿真器辅助微调（PEAT）。进一步，我们将其扩展至联邦学习，即联邦 PEAT（FedPEAT）。FedPEAT 使用适配器、仿真器和 PEFT 进行联邦模型微调，增强模型隐私和内存效率。适配器调整预训练模型，而仿真器给出原始模型的紧凑表示，同时解决隐私和效率问题。我们的方法可适配多种神经网络，并使用深度强化学习进行超参数优化。我们在一个服务器参与协作联邦微调的独特场景中测试了 FedPEAT，展示了其在应对基础模型挑战方面的潜力。
引用
@article{arxiv.2310.17491,
title = {FedPEAT: Convergence of Federated Learning, Parameter-Efficient Fine Tuning, and Emulator Assisted Tuning for Artificial Intelligence Foundation Models with Mobile Edge Computing},
author = {Terence Jie Chua and Wenhan Yu and Jun Zhao and Kwok-Yan Lam},
journal= {arXiv preprint arXiv:2310.17491},
year = {2024}
}