遗忘、无知与短视：重新审视在线持续学习的关键挑战

在线持续学习要求模型从持续不断的数据流中学习。尽管该领域已做出大量努力，但大多数工作集中在缓解灾难性遗忘问题以实现更好的分类能力，代价是更重的训练工作量。它们忽略了在真实场景中（例如在高速数据流环境中），数据不会暂停以适应缓慢的模型。在本文中，我们强调模型吞吐量——定义为模型在单位时间内可处理的最大训练样本数——同样重要。它直接限制了模型可利用的数据量，并给当前方法带来了具有挑战性的困境。基于这一认识，我们从经验和理论两个视角重新审视了在线持续学习（OCL）中的关键挑战，强调了除已有充分记录的灾难性遗忘之外的两个关键问题：模型无知：OCL的单遍特性挑战模型在受限的训练时间和存储容量内学习有效特征，导致有效学习与模型吞吐量之间的权衡；模型短视：OCL在当前任务上的局部学习特性导致模型采用过于简化的、特定于任务的特征和过度稀疏的分类器，造成当前任务最优解与全局目标之间的差距。为解决这些问题，我们提出了非稀疏分类器演化框架，以最小的时间成本促进有效的全局判别特征学习。NsCE结合了非稀疏最大分离正则化和目标经验回放技术，并在预训练模型的帮助下，实现了对新的全局判别特征的快速获取。