多域学习中的共享与域特定LoRA分离
计算机视觉与模式识别
2025-08-06 v1
摘要
现有的多域学习体系结构有两种类型的适配器：用于所有域的共享LoRA和用于每个特定域的域特定LoRA。然而，如何有效捕获域特定信息仍然不清楚。在本文中，我们提出了一种方法，确保共享LoRA和域特定LoRA存在于不同的子空间中;具体来说，是预训练权重的列空间和左零子空间。我们将所提出的方法应用于三个数据集（UCF101、Kinetics400和HMDB51）的动作识别，并在某些情况下展示了其有效性，同时分析了LoRA权重的维度。
引用
@article{arxiv.2508.02978,
title = {Separating Shared and Domain-Specific LoRAs for Multi-Domain Learning},
author = {Yusaku Takama and Ning Ding and Tatsuya Yokota and Toru Tamaki},
journal= {arXiv preprint arXiv:2508.02978},
year = {2025}
}
备注
9 pages