通用增量学习：缓解来自任务间与任务内分布随机性的混淆

增量学习 (Incremental learning, IL) 旨在克服在学习新任务时对先前任务的灾难性遗忘。现有的 IL 方法做出了强假设，即传入的任务类型将仅增加新类或域（即 Class IL、Domain IL），或者以类和域无关的静态规模增加（即 Versatile IL (VIL)），这极大地限制了它们在不可预测和动态的真实环境中的适用性。在本文中，我们研究了 $\textbf{通用增量学习 (Universal Incremental Learning, UIL)}$，在该场景中，模型既不知道沿连续任务将增加哪些新类或域，也不知道每个任务内增量的规模。这种不确定性使得模型无法自信地从所有任务分布中学习知识，并对称地关注每个任务分布内的多样化知识。因此，UIL 提出了一个更通用和现实的 IL 场景，使模型面临由任务间和任务内分布随机性引起的混淆。为了 $\textbf{缓解}$ (Mi) 这种 $\textbf{混淆}$ (Co)，我们为 UIL 提出了一个简单而有效的框架，名为 $\textbf{MiCo}$。在任务间分布层面，我们采用多目标学习方案来强制执行准确和确定性的预测，并通过减少冲突梯度的方向重校准模块进一步增强其有效性。此外，在任务内分布层面，我们引入了幅度重校准模块，以缓解针对不平衡类分布的不对称优化。在三个基准上的广泛实验证明了我们方法的有效性，在 UIL 场景和 VIL 场景中均优于现有的 SOTA 方法。我们的代码将在 $\href{https://github.com/rolsheng/UIL}{此处}$ 提供。