DLoRA：面向大语言模型的分布式参数高效微调方案
机器学习
2024-04-09 v1 人工智能
计算与语言
分布式、并行与集群计算
摘要
为了增强大语言模型（LLM）在下游任务上的性能，一种解决方案是微调 LLM 的某些参数，使其更好地与训练数据集的特征对齐。这一过程通常被称为参数高效微调（PEFT）。由于 LLM 的规模，PEFT 操作通常在公共环境（例如云服务器）中执行。这使得敏感用户数据需要在公共环境中共享，从而引发了潜在的隐私问题。为了应对这些挑战，我们提出了一个名为 DLoRA 的分布式 PEFT 框架。DLoRA 使得可扩展的 PEFT 操作能够在云端和用户设备之间协同执行。结合所提出的 Kill and Revive 算法，评估结果表明 DLoRA 能够显著减少用户设备上的计算和通信工作负载，同时实现卓越的准确性和隐私保护。
引用
@article{arxiv.2404.05182,
title = {DLoRA: Distributed Parameter-Efficient Fine-Tuning Solution for Large Language Model},
author = {Chao Gao and Sai Qian Zhang},
journal= {arXiv preprint arXiv:2404.05182},
year = {2024}
}