中文

基于超神经网络的联邦领域泛化模型融合

机器学习 2024-05-29 v3

摘要

联邦学习在面对异构数据中的领域漂移时面临严峻挑战,导致性能下降。传统的领域泛化方法旨在学习领域不变特征,但联邦模型平均的线性聚合往往限制了这一目标。为此,我们提出一种健壮框架,称为超神经网络驱动的联邦融合(hFedF),利用超神经网络实现非线性聚合,以促进对未知领域的泛化。该方法采用客户端特定的嵌入和梯度对齐技术有效管理领域泛化。评估在零样和少样设置下进行,hFedF在处理领域漂移方面表现优异。在PACS、Office-Home和VLCS数据集上的全面比较显示,hFedF在处理域内和域外准确率方面始终实现最高,预测可靠。我们的研究为探索的不足之处的联邦领域泛化(FDG)领域作出重要贡献,为该领域设立了新的性能基准。

关键词

引用

@article{arxiv.2402.06974,
  title  = {Hypernetwork-Driven Model Fusion for Federated Domain Generalization},
  author = {Marc Bartholet and Taehyeon Kim and Ami Beuret and Se-Young Yun and Joachim M. Buhmann},
  journal= {arXiv preprint arXiv:2402.06974},
  year   = {2024}
}