中文

GRASP:带样本级划分的引导残差适配器

计算机视觉与模式识别 2026-05-13 v2

摘要

文本到图像流匹配变换器在长尾设置下的表现急剧下降:尾部类别的输出在保真度和多样性方面崩溃,限制了其作为稀有条件下合成数据增强的价值。我们追溯到在微调期间,头类与尾类样本之间的梯度对齐较差,这是一种优化层面的病理现象,条件侧和抽样侧的干预无法解决。我们提出 GRASP(Guided Residual Adapters with Sample-wise Partitioning):一种针对条件空间的确定性划分,配合变换器前馈层中的组特定残差适配器,既不影响流匹配目标,也不影响抽样器。在条件流匹配中,条件值索引不同的概率路径的集合,因此沿条件划分是作为梯度对齐代理的结构上正确的因子分解。由于划分是静态的,每个尾部样本都保证更新其分配的专家,从而规避了极端长尾故障模式。关键是,GRASP 是非侵入且可组合的:在 MIMIC-CXR-LT 上,将 GRASP 与自导引少数派抽样结合用于推断时间,能够获得我们观察到的最佳所有标签 IRS;GRASP 本身在FID 中降低最高可达 80%,在尾部类别覆盖率方面提升最高可达 44%,超出全参数微调、学习路由 MoE 和少数派指导。用作 NIH-CXR-LT 上下 DenseNet 分类器的训练数据,GRASP 生成的合成样本在宏 F1 分数上显著优于所有非 GRASP 替代方案,匹配来自真实训练数据的宏 F1,并在 13 个类别中获得非零 F1 分数(而全参数微调仅在 3 个类别中获得非零 F1 分数)。在 ImageNet-LT 上验证了该机制并非仅限于医学归因。

关键词

引用

@article{arxiv.2512.01675,
  title  = {GRASP: Guided Residual Adapters with Sample-wise Partitioning},
  author = {Felix Nützel and Mischa Dombrowski and Bernhard Kainz},
  journal= {arXiv preprint arXiv:2512.01675},
  year   = {2026}
}

备注

16 pages, 6 figures, 6 tables