结合新类增强自蒸馏的联邦类增量学习

联邦学习 (Federated Learning, FL) 在保证原始数据隐私的前提下，使参与者能够协作训练模型。主流的 FL 方法忽略了现实世界数据的动态特性，尤其是其随时间推移在数据量上的增长和类别上的多样化。这一疏忽导致 FL 方法饱受灾难性遗忘之苦，即训练模型在吸收新数据时会无意中丢弃先前学习的信息。为应对这一挑战，我们提出了一种新颖的联邦类增量学习 (Federated Class-Incremental Learning, FCIL) 方法，命名为结合新类增强自蒸馏的联邦类增量学习 (\underline{Fed}erated \underline{C}lass-Incremental \underline{L}earning with New-Class \underline{A}ugmented \underline{S}elf-Di\underline{S}tillation, FedCLASS)。FedCLASS 的核心是将当前模型预测的新类分数与历史模型的旧类分数相融合，并利用结合后的知识进行自蒸馏，从而实现从历史模型到当前模型更充分且精确的知识迁移。理论分析表明 FedCLASS 具有可靠的基础：将历史模型预测的旧类分数视为新类缺失情况下的条件概率，并将当前模型预测的新类分数视为由历史模型推导出的类分数的条件概率。实证实验表明，与四种基线算法相比，FedCLASS 在降低平均遗忘率和提升全局准确率方面具有优越性。