受去甲肾上腺素启发的增益调制缓解联合训练中的稳定性间隙

持续学习领域的近期工作突显了稳定性间隙——即在引入新任务时，先前已学任务上出现的短暂性能下降。这一现象反映了任务边界处快速适应与强保留之间的不匹配，凸显了需要在急剧的分布变化中平衡可塑性与稳定性的优化机制。尽管诸如 momentum-SGD 和 Adam 等优化器引入了隐式的多时间尺度行为，它们仍表现出明显的稳定性间隙。重要的是，即使在理想的联合训练下，这些间隙依然存在，因此在此设置下对其进行研究以将其成因与其他遗忘来源隔离至关重要。受去甲肾上腺素（神经调节性）脉冲在不确定性下瞬时增加神经元增益的启发，我们引入了一种动态增益缩放机制作为一种双时间尺度优化技术，该技术通过调制有效学习率并通过有效重参数化平坦化局部景观来平衡适应与保留。在与任务无关的联合训练下的域增量和类增量 MNIST、CIFAR 和 mini-ImageNet 基准测试中，动态增益缩放有效缓解了稳定性间隙，同时保持了有竞争力的准确率，提高了任务转换处的鲁棒性。