用于少样本类增量学习的可学习分布校准
计算机视觉与模式识别
2022-10-04 v1
摘要
少样本类增量学习（FSCIL）面临着在给定少量训练样本时记忆旧类分布和估计新类分布的挑战。本研究提出一种可学习分布校准（LDC）方法，旨在以统一框架系统性地解决这两个挑战。LDC 建立在参数化校准单元（PCU）之上，该单元基于分类器向量（无记忆）和单一协方差矩阵为所有类初始化有偏分布。协方差矩阵由所有类共享，因此内存开销固定。在基础训练阶段，PCU 被赋予通过在真实分布监督下递归更新采样特征来校准有偏分布的能力。在增量学习阶段，PCU 恢复旧类分布以避免“遗忘”，并估计新类分布和增广样本以缓解少样本样本有偏分布引起的“过拟合”。LDC 通过构建变分推断过程在理论上合理。它提升了 FSCIL 的灵活性，因为训练过程无需类相似性先验。在 CUB200、CIFAR100 和 mini-ImageNet 数据集上的实验表明，LDC 分别比当前最优方法高出 4.64%、1.98% 和 3.97%。LDC 的有效性也在少样本学习场景中得到了验证。
引用
@article{arxiv.2210.00232,
title = {Learnable Distribution Calibration for Few-Shot Class-Incremental Learning},
author = {Binghao Liu and Boyu Yang and Lingxi Xie and Ren Wang and Qi Tian and Qixiang Ye},
journal= {arXiv preprint arXiv:2210.00232},
year = {2022}
}