TeamLoRA：通过专家协作与竞争提升低秩适配
计算与语言
2024-08-20 v1 人工智能
摘要
虽然参数高效微调（PEFT）方法如LoRA有效地解决了微调期间GPU内存限制的问题，但其性能往往在多维任务场景下表现不足。为此，一个直接解决方案是引入任务特定的LoRA模块作为领域专家，利用多个专家能力的建模，从而增强多任务学习的通用能力。尽管前景光明，但这些额外组件常常增加训练和推理过程的复杂性，违背了旨在PEFT中高效特性的设计初衷。鉴于此，我们引入一种创新的PEFT方法——TeamLoRA，由用于专家协作与竞争的模块组成，从而在有效性和效率之间取得合适的平衡：（i）对于协作，设计了一种新颖的知识共享与组织机制，以适当减少矩阵运算的规模，从而提升训练和推理速度。（ii）对于竞争，我们提出利用博弈论互动机制促进专家之间的竞争，鼓励专家在应对多样化下游任务时转移其领域特定知识，从而提升性能。通过这种方式，TeamLoRA优雅地将专家连接成一个“团队”，内部具有协作与竞争，实现了多任务学习的更快更准的PEFT范式。为验证TeamLoRA的优越性，我们构建了一个全面的多任务评估（CME）基准，以全面评估多任务学习能力。在我们的CME和其他基准上的实验表明，TeamLoRA在有效性和效率方面都表现出色。我们的项目已公开于https://github.com/Lin-Tianwei/TeamLoRA。
引用
@article{arxiv.2408.09856,
title = {TeamLoRA: Boosting Low-Rank Adaptation with Expert Collaboration and Competition},
author = {Tianwei Lin and Jiang Liu and Wenqiao Zhang and Zhaocheng Li and Yang Dai and Haoyuan Li and Zhelun Yu and Wanggui He and Juncheng Li and Hao Jiang and Siliang Tang and Yueting Zhuang},
journal= {arXiv preprint arXiv:2408.09856},
year = {2024}
}