RecycleLoRA:基于秩揭示 QR 分解的双 LoRA 子空间适应用于领域泛化语义分割
计算机视觉与模式识别
2026-03-31 v1 人工智能
摘要
领域泛化语义分割 (DGSS) 旨在在未见目标域上保持稳健的性能。视觉基础模型 (VFM) 提供了丰富的跨域知识,可用于增强泛化能力。然而,如何主动利用 VFM 内部丰富的子空间结构仍未得到充分探索,许多现有方法主要关注保留预训练知识。此外,这些方法的 LoRA 组件往往受限于表示的多样性和参数的高效利用。我们提出了 RecycleLoRA,通过基于秩揭示 QR 分解 (RRQR) 系统性地利用 VFM 的子空间结构并增强 LoRA 的表示丰富性来解决上述挑战。我们的主要适配器利用 RRQR 识别的次要子空间方向来学习多样且独立的特征,即使独立使用也能实现竞争性能。我们进一步引入子适配器,通过最小调整精细调节主要方向,为主适配器的强基线性能提供互补性提升。该设计使双适配器能够在无需额外正则化损失的情况下学习不同的表示。我们通过 RRQR 基于初始化的系统性预训练子空间结构利用,实现了优异的领域泛化性能。RecycleLoRA 在合成到真实的泛化和真实到真实的泛化任务上均实现了最先进的性能,且无需复杂的体系结构或额外的推理延迟。
引用
@article{arxiv.2603.28142,
title = {RecycleLoRA: Rank-Revealing QR-Based Dual-LoRA Subspace Adaptation for Domain Generalized Semantic Segmentation},
author = {Chanseul Cho and Seokju Yun and Jeaseong Jeon and Seungjae Moon and Youngmin Ro},
journal= {arXiv preprint arXiv:2603.28142},
year = {2026}
}
备注
Accepted to CVPR 2026 (Findings)