中文

高效组装归一化层与正则化用于联邦域泛化

计算机视觉与模式识别 2026-02-17 v2 机器学习

摘要

域偏移是机器学习中一个棘手的问题,它会导致模型在未见过的域上测试时性能下降。联邦域泛化(FedDG)试图以隐私保护的方式利用协作客户端训练一个全局模型,使其能够很好地泛化到可能存在域偏移的未见客户端。然而,大多数现有的FedDG方法要么引起额外的数据泄露隐私风险,要么在客户端通信和计算方面产生显著成本,这些是联邦学习范式中的主要问题。为了规避这些挑战,本文引入了一种新的FedDG架构方法,即gPerXAN,它依赖于一种与引导正则化器配合使用的归一化方案。具体来说,我们精心设计了个性化显式组装归一化(Personalized eXplicitly Assembled Normalization),以强制客户端模型选择性过滤偏向于局部数据的域特定特征,同时保留这些特征的判别性。然后,我们引入了一个简单而有效的正则化器,引导这些模型直接捕获全局模型分类器可以利用的域不变表示。在两个基准数据集(即PACS和Office-Home)以及一个真实世界医学数据集Camelyon17上的大量实验结果表明,我们提出的方法在解决这一特定问题上优于其他现有方法。

关键词

引用

@article{arxiv.2403.15605,
  title  = {Efficiently Assemble Normalization Layers and Regularization for Federated Domain Generalization},
  author = {Khiem Le and Long Ho and Cuong Do and Danh Le-Phuoc and Kok-Seng Wong},
  journal= {arXiv preprint arXiv:2403.15605},
  year   = {2026}
}

备注

CVPR'24