超越适配器检索：稀疏任务投影下的隐层几何保持构合

参数高效迁移学习的最新进展表明，从预训练模块库中组合 LoRA 适配器具有实际价值。然而，大多数现有方法依赖简单检索启发式或均匀平均，忽略了表示空间中任务关系的潜在结构。我们提出了一种超越检索的适配器复用框架，将适配器构合形式化为几何感知稀疏重构问题。具体而言，我们从 base 模型编码器中派生每个任务的隐层原型向量，旨在将目标任务原型近似表示为检索到的参考原型的稀疏线性组合，在 $\ell_1$ 正则化优化目标下实现。 resulting combination weights 然后用于混合相应的 LoRA 适配器，生成针对目标任务的复合适配器。该表述不仅保留了任务表示流形的局部几何结构，还通过选择最小相关适配器集合来促进可解释性和高效复用。我们在多个领域——包括医学图像分割、医学报告生成和图像合成——上 demonstrate 了方法的有效性。我们的结果突出了将检索与隐层几何感知优化耦合以提高零样本泛化能力的优势。