面向图像分类的内存高效类增量学习
机器学习
2021-05-19 v2 计算机视觉与模式识别
机器学习
摘要
在内存资源受限的约束下，类增量学习（CIL）在联合分类模型因新类别到来而更新时通常遭受“灾难性遗忘”问题。为应对遗忘问题，许多CIL方法通过将一些 exemplar 样本保留在大小受限的内存缓冲区中来迁移旧类的知识。为更高效地利用内存缓冲区，我们提出保留更多辅助低保真度 exemplar 样本而非原始真实高保真度 exemplar 样本。这种内存高效的 exemplar 保留方案使旧类知识迁移更为有效。然而，低保真度 exemplar 样本常分布于远离原始 exemplar 样本的领域，即领域偏移。为缓解该问题，我们提出一种双样本学习方案，旨在构建领域兼容的特征提取器与分类器，从而大幅缩小上述领域鸿沟。因此，这些低保真度辅助 exemplar 样本能够以更低内存代价适度替代原始 exemplar 样本。此外，我们提出一种鲁棒分类器自适应方案，借助具有纯真类标签的样本，进一步精炼有偏分类器（以含旧类蒸馏标签知识的样本学习得到）。实验结果证明了本工作相较于最先进（state-of-the-art）方法的有效性。
引用
@article{arxiv.2008.01411,
title = {Memory Efficient Class-Incremental Learning for Image Classification},
author = {Hanbin Zhao and Hui Wang and Yongjian Fu and Fei Wu and Xi Li},
journal= {arXiv preprint arXiv:2008.01411},
year = {2021}
}