隔离与无偏聚合：一种无干扰的增量学习范式
计算机视觉与模式识别
2022-11-30 v1
摘要
本文关注增量学习各阶段中普遍存在的性能不平衡问题。为避免明显的阶段学习瓶颈，我们提出了一种全新的基于阶段隔离的增量学习框架，其利用一系列阶段隔离分类器来执行各阶段的学习任务，且互不干扰。具体而言，为将多个阶段分类器无偏地聚合为统一分类器，我们首先引入温度控制的能量度量以指示阶段分类器的置信度分数水平。随后，我们提出基于锚点的能量自归一化策略，以确保各阶段分类器工作于同一能量水平。最后，我们设计了一种基于投票的推理增强策略以实现鲁棒推理。所提方法无需回放，且可适用于几乎所有持续学习场景。我们在四个大型基准上评估了该方法。大量结果表明，该方法在确立新的最先进整体性能方面具有优越性。\emph{代码见} \url{https://github.com/iamwangyabin/ESN}。
引用
@article{arxiv.2211.15969,
title = {Isolation and Impartial Aggregation: A Paradigm of Incremental Learning without Interference},
author = {Yabin Wang and Zhiheng Ma and Zhiwu Huang and Yaowei Wang and Zhou Su and Xiaopeng Hong},
journal= {arXiv preprint arXiv:2211.15969},
year = {2022}
}
备注
This is the accepted version of the Paper & Supp to appear in AAAI 2023. Please cite the final published version. Code is available at https://github.com/iamwangyabin/ESN