超越适配器检索：基于稀疏任务投影的隐几何保持构图

最近的高效参数迁移学习研究表明，通过来自预训练模块库的组合 LoRA 适配器具有实用性。然而，大多数现有方法依赖简单检索启发式或均匀平均，忽略表示空间中任务关系的隐含结构。我们提出一种超越检索的适配器复用框架，将适配器构图形式化为几何感知稀疏重构问题。具体而言，我们从基础模型编码器中推导出每个任务的隐式原型向量，旨在以稀疏线性组合方式逼近目标任务原型，同时施加 $\ell_1$ 正则化优化目标。生成的组合权重随后用于混合相应的 LoRA 适配器，从而生成针对目标任务的复合适配器。该表述不仅保留任务表示流形的局部几何结构，还通过选择最小相关适配器集合促进可解释性和高效复用。我们在多个领域验证了方法有效性，包括医学图像分割、医学报告生成和图像合成。我们的结果突显了将检索与隐几何感知优化相结合以实现更好零样 generalization 的优势。