OpenCIL：面向类增量学习的类外分布检测基准
计算机视觉与模式识别
2024-07-10 v2
摘要
类增量学习（Class Incremental Learning, CIL）旨在学习能够不仅能容纳新类别，还能维持旧类别已学习知识的模型。类外分布（Out-of-Distribution, OOD）检测在CIL中旨在保持这种增量学习能力，同时能够拒绝来自所学习类别不同分布的未知样本。这种能力对于将CIL模型部署在开放世界中至关重要。然而，尽管CIL和OOD检测在各自领域取得了显著进展，但缺乏一个系统化且大规模的基准来评估先进CIL模型检测OOD样本的能力。为填补这一空白，本研究设计了一个全面的实证研究，以建立此类基准，命名为OpenCIL。为此，我们提出了两个原则性框架，为四种代表性CIL模型集成15种多样化的OOD检测方法， resulting in 60个用于CIL中OOD检测的基线模型。经验评估在两个流行的CIL数据集上进行，涉及六个常用OOD数据集。我们通过全面评估发现，CIL模型在暴露于开放环境时会严重偏向于OOD样本和新添加的类别。为此，我们进一步提出一种新的CIL基线模型，称为双向能量正则化（Bi-directional Energy Regularization, BER），专为在不同CIL模型中缓解这两种偏差而设计，通过对旧类别和新类别都进行能量正则化来实现。我们在实验中证明其优越性能。所有代码和数据均开源于https://github.com/mala-lab/OpenCIL。
引用
@article{arxiv.2407.06045,
title = {OpenCIL: Benchmarking Out-of-Distribution Detection in Class-Incremental Learning},
author = {Wenjun Miao and Guansong Pang and Trong-Tung Nguyen and Ruohang Fang and Jin Zheng and Xiao Bai},
journal= {arXiv preprint arXiv:2407.06045},
year = {2024}
}