资源受限的联邦持续学习：哪些因素才是关键？
机器学习
2025-10-15 v2
摘要
联邦持续学习（Federated Continual Learning, FCL）旨在通过保留先前知识的同时适应新数据，实现对边缘设备上不断增长的数据流进行顺序隐私保护模型训练。当前的FCL文献聚焦于数据隐私限制和对先前数据的获取，却对训练开销没有任何约束。这在实际场景中不合理，因为边缘设备主要受存储、计算预算和标注速率等资源约束。我们采用大规模基准进行了重新审视，分析了在不同资源受限设置下，最新FCL方法的性能。实验涉及各种典型FCL技术和六个数据集，分为两种递增学习情景（Class-IL 和 Domain-IL）。通过累计超过1000小时GPU的大量实验，我们发现，在资源受限的设置下，现有的FCL方法（毫无例外）均未达到预期性能。我们的结论在敏感性分析中保持一致。这表明大多数现有FCL方法在实际部署方面过于依赖资源。此外，我们研究了在资源约束下的典型FCL技术性能，并为FCL的未来研究方向提供了启示。
引用
@article{arxiv.2501.08737,
title = {Resource-Constrained Federated Continual Learning: What Does Matter?},
author = {Yichen Li and Yuying Wang and Jiahua Dong and Haozhao Wang and Yining Qi and Rui Zhang and Ruixuan Li},
journal= {arXiv preprint arXiv:2501.08737},
year = {2025}
}
备注
arXiv admin note: text overlap with arXiv:2303.11165 by other authors