面向非参与客户端的联邦学习模型部署:一种无需微调的超网络方法
机器学习
2025-08-19 v1 人工智能
摘要
联邦学习(FL)已成为隐私保护协作学习的有前景的范畴,但数据异构性仍是关键挑战。虽然现有方法在解决参与客户端的数据异构性问题方面取得了进展,但它们无法为数据分布偏移且资源受限的非参与客户端提供普适化解决方案。为缓解此问题,我们提出了HyperFedZero—a新型方法,通过条件化分布感知嵌入动态生成专用模型。我们的方法显式地将分布感知的归纳偏置纳入模型的前向传播中,通过NoisyEmbed增强的提取器配合Balancing Penalty,有效防止特征塌陷。超网络随后利用这些嵌入逐块生成专为非参与客户端定制的模型,确保其适应其独特的数据分布。广泛的实验在多个数据集和模型上表明,HyperFedZero的性能卓越, consistently 超过对手方法,同时计算、存储和通信开销最小。此外,消融研究和可视化进一步验证了每个组件的必要性,确认了有意义的适应性,验证了HyperFedZero的有效性。
引用
@article{arxiv.2508.12673,
title = {Deploying Models to Non-participating Clients in Federated Learning without Fine-tuning: A Hypernetwork-based Approach},
author = {Yuhao Zhou and Jindi Lv and Yuxin Tian and Dan Si and Qing Ye and Jiancheng Lv},
journal= {arXiv preprint arXiv:2508.12673},
year = {2025}
}
备注
17 pages