基于双投影与分类器重构的语义偏移估计用于无样本类增量学习
计算机视觉与模式识别
2025-05-20 v4 人工智能
机器学习
摘要
无样本类增量学习(EFCIL)旨在不保留样本的情况下从不同类别中顺序学习，但极易遭受已学知识的灾难性遗忘。虽然现有的 EFCIL 方法利用知识蒸馏来缓解遗忘，但它们仍面临两个关键挑战：语义偏移和决策偏差。具体而言，在学习新任务后，旧任务的嵌入在嵌入空间中发生偏移，且由于仅使用新数据进行训练，分类器变得偏向新任务，阻碍了新旧知识之间的平衡。为了解决这些问题，我们提出了用于 EFCIL 的双投影偏移估计与分类器重构(DPCR)方法。DPCR 通过双投影有效估计语义偏移，该双投影结合了可学习变换与行空间投影，以捕捉任务级和类别级的偏移。此外，为缓解决策偏差，DPCR 采用岭回归来重新表述分类器重构过程。该重构利用了经过估计偏移校准后的各类别协方差和原型，从而降低决策偏差。大量实验表明，在多个数据集上，DPCR 有效平衡了新旧任务，优于 state-of-the-art 的 EFCIL 方法。我们的代码可在 https://github.com/RHe502/ICML25-DPCR 获取。
引用
@article{arxiv.2503.05423,
title = {Semantic Shift Estimation via Dual-Projection and Classifier Reconstruction for Exemplar-Free Class-Incremental Learning},
author = {Run He and Di Fang and Yicheng Xu and Yawen Cui and Ming Li and Cen Chen and Ziqian Zeng and Huiping Zhuang},
journal= {arXiv preprint arXiv:2503.05423},
year = {2025}
}
备注
Accepted by ICML 2025; Camera ready version