中文

PLayer-FL:面向跨领域个性化分层联邦学习的原则化方法

机器学习 2025-02-14 v1

摘要

非一致分布的数据是联邦学习(FL)中的主要挑战。个性化联邦学习通过平衡本地模型适应与全局模型一致性来应对这一挑战。其中一种变体——部分联邦学习——利用了前层学习更具可迁移特征的观察,仅对前几层进行联邦化。然而,当前的方法基于预设的、特定于架构的规则来选择层次,这限制了其适用性。我们引入原则化分层联邦学习(PLayer-FL),其使用新颖的联邦灵敏度指标来识别受益于联邦化的层次。该指标灵感来自模型修剪,量化每一层对跨客户端泛化贡献,以识别网络中联邦化收益递减的转移点。我们首先展示了联邦灵敏度指标在多种架构中与既定泛化度量衡量之间的强相关性。随后,我们表明 PLayer-FL 在一系列任务上优于现有 FL 算法,并实现了跨客户端更均匀的性能提升。

关键词

引用

@article{arxiv.2502.08829,
  title  = {PLayer-FL: A Principled Approach to Personalized Layer-wise Cross-Silo Federated Learning},
  author = {Ahmed Elhussein and Gamze Gürsoy},
  journal= {arXiv preprint arXiv:2502.08829},
  year   = {2025}
}