刻画边际惩罚：面向少样本类别递增学习的任务内适配器合并与分类器校准
计算机视觉与模式识别
2025-08-08 v1
摘要
现实应用常面临数据隐私限制和高获取成本，使得在递增任务中假设拥有足够训练数据的假设不切实际，导致类别递增学习性能显著下降。前向兼容学习在基准任务训练时为未来任务做准备，已成为少样本类别递增学习 (FSCIL) 的有前景的解决方案。然而，现有方法仍难以平衡基准类别的可区分性与新类别的泛化能力。此外，由于在递增任务中难以获取原始数据，导致类别间决策边界模糊不清。为此，我们提出 SMP (Sculpting Margin Penalty)，一种新的 FSCIL 方法，通过在参数高效微调范式中策略性地在不同阶段整合边际惩罚。具体而言，我们引入面向基准任务学习的 Margin-aware Intra-task Adapter Merging (MIAM) 机制。MIAM 训练两个不同分类损失的低秩适配器：一个带边际惩罚以增强基准类别可区分性，另一个无边际约束以促进对未来新类别的泛化。然后对这两个适配器进行自适应合并以提高前向兼容性。对于递增任务，我们提出基于边际惩罚的分类器校准 (MPCC) 策略，通过在所有已见类别嵌入上进行微调来细化决策边界。广泛的实验在 CIFAR100、ImageNet-R 和 CUB200 上进行，结果表明 SMP 在 FSCIL 中实现了最先进的性能，同时在基准类别和新类别之间取得更好的平衡。
引用
@article{arxiv.2508.05094,
title = {Sculpting Margin Penalty: Intra-Task Adapter Merging and Classifier Calibration for Few-Shot Class-Incremental Learning},
author = {Liang Bai and Hong Song and Jinfu Li and Yucong Lin and Jingfan Fan and Tianyu Fu and Danni Ai and Deqiang Xiao and Jian Yang},
journal= {arXiv preprint arXiv:2508.05094},
year = {2025}
}
备注
13 pages, 7 figures