用于端侧大型语言模型的个性化协作微调
计算与语言
2024-08-08 v2 机器学习
摘要
我们探索了在本地数据可用性有限的情况下，大型语言模型的端侧自监督协作微调。受协作学习社区的启发，我们引入了三种不同的信任加权梯度聚合方案：基于权重相似性、基于预测相似性和基于验证性能。为了最小化通信开销，我们集成了低秩适应 (LoRA) 并仅交换 LoRA 权重更新。由预测和性能指标驱动的协议超越了 FedAvg 和本地微调方法，这在具有更多样化本地数据分布的现实场景中尤为明显。结果突显了我们的方法在解决本地数据集异质性和稀缺性方面的有效性。
引用
@article{arxiv.2404.09753,
title = {Personalized Collaborative Fine-Tuning for On-Device Large Language Models},
author = {Nicolas Wagner and Dongyang Fan and Martin Jaggi},
journal= {arXiv preprint arXiv:2404.09753},
year = {2024}
}