动态参与的联邦学习：基准测试与知识池插件
机器学习
2025-11-21 v1
摘要
联邦学习（Federated Learning）通过分布式方式使客户端协同训练共享模型，区别于传统深度学习范式。然而，大多数现有联邦学习研究假设客户端持续参与，忽略了动态参与（DPFL）场景——即客户端在训练过程中可能间歇性地加入或离开。此外，目前尚无基准框架系统支持DPFL特定挑战的研究。本文提出了首个专为动态客户端参与情况下的联邦学习模型基准测试而设计的开源框架。该框架提供针对DPFL场景的可配置数据分布、参与模式及评估指标。通过该平台，我们对四大类广泛采用的联邦学习模型进行基准测试，发现动态参与会导致显著的性能下降。为此，我们进一步提出了知识池联邦学习（Knowledge-Pool Federated Learning, KPFL），一种通用插件，维护跨活跃客户端和空闲客户端的共享知识池。KPFL利用双重年龄和数据偏置加权，结合生成式知识蒸馏，以缓解不稳定性并防止知识丢失。大量实验表明，动态参与对联邦学习性能具有显著影响，而KPFL在提高模型鲁棒性和泛化能力方面效果显著。
引用
@article{arxiv.2511.16523,
title = {Dynamic Participation in Federated Learning: Benchmarks and a Knowledge Pool Plugin},
author = {Ming-Lun Lee and Fu-Shiang Yang and Cheng-Kuan Lin and Yan-Ann Chen and Chih-Yu Lin and Yu-Chee Tseng},
journal= {arXiv preprint arXiv:2511.16523},
year = {2025}
}