面向少样本类别增量学习的位移知识蒸馏
机器学习
2024-12-18 v2 计算机视觉与模式识别
摘要
少样本类别增量学习 (FSCIL) 解决了数据分布变化和数据获取困难的现实场景挑战。为抵消 FSCIL 中典型的灾难性遗忘，通常会采用知识蒸馏以维持来自所学数据分布的知识。鉴于在少样本情境中生成判别性特征表示的局限性，我们的做法将样本之间的结构信息纳入知识蒸馏。这一结构信息是低质量特征的补救措施。我们不同于传统结构蒸馏方法的是计算样本相似性，引入位移知识蒸馿 (DKD) 方法。DKD 利用样本之间的位移，而非相似性，纳入距离和角信息，从而显著增强通过知识蒸馏保留的信息密度。观察到基类和新类的特征分布之间存在性能差异，我们提出了双重蒸馏网络 (DDNet)。该网络对基类应用传统知识蒸馏，对新类应用 DKD，这挑战了将新类与基类传统集成的常规做法。此外，我们在推理期间实现一种基于实例的样本选择器，以动态调整双分支权重，从而利用每种方法的互补优势。广泛的测试在三个基准数据集上表明，DDNet 实现了国际领先的结果。此外，通过严格的实验和比较，我们确立了我们提出的 DKD 方法的鲁健性和通用性。
引用
@article{arxiv.2412.11017,
title = {On Distilling the Displacement Knowledge for Few-Shot Class-Incremental Learning},
author = {Pengfei Fang and Yongchun Qin and Hui Xue},
journal= {arXiv preprint arXiv:2412.11017},
year = {2024}
}