首次会话自适应：一种强无回放的类增量学习基线

在类增量学习（Class-Incremental Learning, CIL）中，图像分类系统在每个学习会话中接触到新类，并且必须被增量更新。解决该问题的方法在 CIL 的每个会话中同时更新分类头和特征提取器主体。在本工作中，我们开发了一种基线方法——首次会话自适应（First Session Adaptation, FSA），它阐明了现有 CIL 方法的有效性，并使我们能够评估头部与主体自适应的相对性能贡献。FSA 仅在首个学习会话中自适应预训练神经网络主体，此后将其固定；然后将基于线性判别分析（LDA）的头部置于自适应主体之上，从而允许通过 CIL 进行精确更新。FSA 是无回放的，即它不记忆来自先前持续学习会话的样本。为了从经验上激发 FSA，我们首先考虑了 22 个图像分类数据集的多样化选择，在高样本/低样本离线设置下评估不同的头部与主体自适应技术。我们发现 LDA 头部表现良好并开箱即用地支持 CIL。我们还发现特征层面调制（Featurewise Layer Modulation, FiLM）适配器在少样本设置中高度有效，而全主体自适应在高样本设置中有效。其次，我们经验性地研究了各种 CIL 设置，包括高样本 CIL 与少样本 CIL，含文献中曾使用的设置。我们表明 FSA 在所考虑的 16 个设置中的 15 个上显著优于最先进水平。带有 FiLM 适配器的 FSA 在少样本设置中尤为高效。这些结果表明，当前对连续主体自适应的处理方式并未如预期般工作。最后，我们提出了一种可应用于一组无标签输入的度量，它能预测主体自适应的收益。