理解基于回放的类增量学习中的不平衡遗忘

在类增量学习 (CIL) 设置中，神经网络会遭受灾难性遗忘。回放——即重放过去样本的一个子集——是一种成熟的缓解策略。然而，最近的结果表明，尽管回放分配是平衡的，某些类的遗忘程度仍显著高于其他类。尽管该现象具有相关性，但这种不平衡遗忘现象仍未得到充分探索。本研究表明，不平衡遗忘在基于回放的 CIL 中系统且严重地出现，并对其进行了广泛研究。具体而言，我们通过原理性分析构建了三个最后一层系数，用于捕获在增量步骤中影响每个过去类的不同梯度级干扰源。随后我们证明，这三个系数共同能够可靠地预测在该步骤结束时过去类在遗忘程度上的排名。尽管仅凭预测性能不能确立因果关系，但这些结果支持将上述系数解释为一种合理的机制性说明，将训练期间最后一层的梯度级交互与类级遗忘结果联系起来。值得注意的是，捕获自诱发干扰的一个系数成为最强的预测因子，控制实验提供的证据与该系数受新类干扰系数影响的结论相一致。总体而言，我们的发现提供了有价值的见解，并指明了通过减少已识别干扰源中的类间差异来缓解不平衡遗忘的有前景的方向。