联邦持续学习走向在线：面向视觉任务及更广泛应用的不确定性感知记忆管理

鉴于能够建模更真实和动态问题的能力，联邦持续学习（Federated Continual Learning, FCL）近年来受到越来越多的关注。人们所知的在此设置下遇到的问题是所谓的灾难性遗忘，学习模型倾向于关注最近的任务，而忘记之前学习的知识。当前 FCL 方法的大多数都提出基于生成的方法来解决此问题。然而，这种方法需要对数据进行多次训练迭代，暗示着一种离线环境，即数据在本地存储且随时间保持不变。此外，所提出的解决方案仅针对视觉任务。为克服这些限制，我们提出一种新方法，处理不同模态在在线场景中的情况，其中新数据以 mini-batch 流式到达，只能处理一次。为解决灾难性遗忘，我们提出一种基于不确定性的记忆方法。具体地，我们建议使用基于 Bregman 信息（Bregman Information, BI）的估计器来计算模型在样本级别上的方差。通过衡量预测不确定性，我们检索出具有特定特征的样本，并通过对此类样本进行再训练，我们展示了该方法在现实场景下减轻遗忘效应的潜力，同时保持数据保密性和相较于最新方法的竞争性通信效率。