FedPOD：联邦学习训练的可部署单元
机器学习
2026-03-12 v2
摘要
本文提出了 FedPOD，作为 2024 年联邦肿瘤分割（FeTS）挑战的冠军方案，用于优化联邦学习中多个客户端的学习效率和通信成本。灵感来源于 FedPIDAvg，我们定义了轮次级任务以提升训练效率。FedPIDAvg 通过将预测熵的训练损失减少作为权重，运用微分项实现性能提升。此外，采用泊松分布建模数据分布，并运用 PID 控制器，即使在数据分布不均的情况下也能降低通信成本。然而，基于泊松分布排除异常参与者的做法会限制数据利用。此外，PID 控制器要求维持整个联邦学习过程中相同的参与者，因为其依赖前几轮的学习信息。我们的FedPOD 通过包含被排除为异常值的参与者、消除对前几轮学习信息的依赖，并在每轮计算验证损失来解决上述问题。在本次挑战中，FedPOD 在 WT、ET 和 TC 的 Dice 评分平均分为 0.78、0.71 和 0.72，投影收敛得分平均分为 0.74。FedPOD 的概念灵感来自 Kubernetes 的最小计算单元 POD，旨在兼容 Kubernetes 自动扩缩容。将 FedPOD 的轮次级任务扩展为 POD 单元，可灵活设计，通过类似 Kubernetes 自动扩缩容的方式应用。本工作表明，FedPOD 有潜力通过提升效率、灵活性和指标性能，增强联邦学习。
引用
@article{arxiv.2512.20607,
title = {Saddle-to-Saddle Dynamics Explains A Simplicity Bias Across Neural Network Architectures},
author = {Yedi Zhang and Andrew Saxe and Peter E. Latham},
journal= {arXiv preprint arXiv:2512.20607},
year = {2026}
}
备注
ICLR 2026