中文

HFedATM:基于最优传输与正则化均值聚合的层次化联邦域泛化

机器学习 2025-08-08 v1 分布式、并行与集群计算

摘要

联邦学习 (FL) 是一种去中心化方法,多个客户端在不共享原始数据的情况下协同训练共享全局模型。尽管其有效性突出,但传统 FL 面临着随参与设备数量增长而对单一中心服务器施加的计算和通信负担过大的可扩展性挑战。层次化联邦学习 (HFL) 通过在中间节点(站点)分布模型聚合任务来解决这些问题,从而提升系统可扩展性和抗单点故障能力。然而,HFL 仍面临一个关键且常被忽视的局限性:域漂移,即不同客户和站点之间的数据分布存在显著差异,降低模型在未见目标域上的性能。虽然联邦域泛化 (FedDG) 方法已涌现出改善对域漂移鲁棒性,但其在 HFL 框架中的集成仍属未充分探索的领域。本文正式引入层次化联邦域泛化 (HFedDG),以探讨层次化架构中的域漂移问题。具体而言,我们提出 HFedATM,一种层次化聚合方法,首先通过滤波器级最优传输对齐来自不同站点的模型卷积滤波器,然后使用收缩感知正则化均值聚合合并对齐后的模型。我们的广泛实验评估表明,HFedATM 在多个数据集上显著提升了现有 FedDG 基线的性能,同时保持计算和通信效率。此外,理论分析表明,HFedATM 相较于标准层次化平均具有更紧的泛化误差界,实现更快的收敛和稳定的训练行为。

关键词

引用

@article{arxiv.2508.05135,
  title  = {HFedATM: Hierarchical Federated Domain Generalization via Optimal Transport and Regularized Mean Aggregation},
  author = {Thinh Nguyen and Trung Phan and Binh T. Nguyen and Khoa D Doan and Kok-Seng Wong},
  journal= {arXiv preprint arXiv:2508.05135},
  year   = {2025}
}

备注

11 pages, 3 figures