LoraHub：通过动态LoRA组合实现高效跨任务泛化
计算与语言
2024-08-20 v3 人工智能
摘要
低秩自适应（LoRA）常用于微调大语言模型（LLMs）以适应新任务。本文研究用于跨任务泛化的LoRA可组合性，并介绍LoraHub，一个为有意组装在多种给定任务上训练的LoRA模块而设计的简单框架，目标是在未见任务上实现自适应性能。借助新任务的少量示例，LoraHub可流畅组合多个LoRA模块，无需人类专业知识和假设。值得注意的是，该组合既不需要额外模型参数也不需要梯度。在Big-Bench Hard基准上的实证结果表明，LoraHub虽未超越上下文学习的性能，但在少样本场景下通过推理时每示例使用显著减少的token数提供了显著的性能-效率权衡。值得注意的是，当搭配不同演示示例时，LoraHub相比上下文学习建立了更好的上界，展示了其未来发展的潜力。我们的愿景是建立一个LoRA模块平台，使用户能共享其训练好的LoRA模块。这种协作方式促进了LoRA模块向新任务的无缝应用，助力自适应生态的构建。我们的代码见https://github.com/sail-sg/lorahub，所有预训练LoRA模块发布于https://huggingface.co/lorahub。
引用
@article{arxiv.2307.13269,
title = {LoraHub: Efficient Cross-Task Generalization via Dynamic LoRA Composition},
author = {Chengsong Huang and Qian Liu and Bill Yuchen Lin and Tianyu Pang and Chao Du and Min Lin},
journal= {arXiv preprint arXiv:2307.13269},
year = {2024}
}
备注
COLM 2024