不落下任何人：真实场景下的联邦类增量学习
计算机视觉与模式识别
2023-11-17 v3
摘要
联邦学习（FL）是一种通过聚合去中心化本地客户端的模型参数进行协同训练的框架。然而，大多数FL方法不合理地假设FL框架的数据类别是预先已知且固定的。此外，一些收集了其他客户端未见新颖类别的新本地客户端可能不规则地引入FL训练。当本地客户端在存储旧类别的有限内存下连续接收新类别时，这些问题导致全局模型对旧类别发生灾难性遗忘。为解决上述问题，我们提出一种新颖的本地-全局抗遗忘（LGA）模型。它通过解决本地和全局灾难性遗忘，确保没有本地客户端在持续学习新类时被落下。具体而言，考虑到解决本地客户端的类别不平衡以克服本地遗忘，我们设计了类别平衡的梯度自适应补偿损失和类别梯度诱导的语义蒸馏损失。它们能平衡难遗忘和易遗忘旧类别的异质遗忘速度，同时确保不同任务内一致的类别关系。此外，设计了一个代理服务器来解决不同客户端间Non-IID类别不平衡引起的全局遗忘。它通过自监督原型增强扩充从本地客户端收集的新类别扰动原型图像，从而提高选择最佳旧全局模型用于本地侧语义蒸馏损失的鲁棒性。在代表性数据集上的实验验证了我们模型相较对比方法的优越性能。代码可在 https://github.com/JiahuaDong/LGA 获取。
引用
@article{arxiv.2302.00903,
title = {No One Left Behind: Real-World Federated Class-Incremental Learning},
author = {Jiahua Dong and Hongliu Li and Yang Cong and Gan Sun and Yulun Zhang and Luc Van Gool},
journal= {arXiv preprint arXiv:2302.00903},
year = {2023}
}
备注
Accepted to IEEE Transactions on Pattern Analysis and Machine Intelligence 2023 (TPAMI 2023)