中文

面向单次联邦学习的全局特征统计捕获

机器学习 2025-03-11 v1 人工智能

摘要

传统的联邦学习(FL)需要服务器与客户端之间进行多轮通信,带来了高昂通信成本、连接中断风险及易受隐私攻击等严峻挑战。单次联邦学习通过在单轮通信中完成全局服务器模型的训练,已成为克服上述缺陷的极具吸引力的学习范式。然而,现有的单次联邦学习方法在服务器或客户端上计算成本高昂,且无法稳定有效地处理非独立同分布(non-IID)数据。为了应对这些挑战,本文提出了 FedCGS,一种利用预训练模型捕获全局特征统计的新型联邦学习算法。借助全局特征统计,我们实现了免训练且抗异构的单次联邦学习。此外,我们将其应用扩展至个性化场景,客户端仅需与服务器进行额外一轮通信以下载全局统计信息。大量实验结果证明了我们的方法在多种数据异构设置下的有效性。代码可在 https://github.com/Yuqin-G/FedCGS 获取。

关键词

引用

@article{arxiv.2503.06962,
  title  = {Capture Global Feature Statistics for One-Shot Federated Learning},
  author = {Zenghao Guan and Yucan Zhou and Xiaoyan Gu},
  journal= {arXiv preprint arXiv:2503.06962},
  year   = {2025}
}

备注

AAAI 2025