FedOBP:基于云-边缘元素级解耦的联邦最优脑个性化
机器学习
2026-04-21 v1 人工智能
摘要
联邦学习(FL)面临客户端数据异构性和资源受限移动设备的问题,这会降低模型准确率。个人化联邦学习(PFL)通过适应本地数据分布来调整共享的全局知识以解决此问题。PFL的一个有前景的方法是模型解耦,将模型分为全局参数和个人化参数,从而引出关键问题:哪些参数应进行个人化以平衡全局知识共享和本地适应。在本文中,我们提出了一种Federated Optimal Brain Personalization(FedOBP)算法,采用分位数阈值机制并引入元素级重要性得分。该得分将Optimal Brain Damage(OBD)修剪理论扩展到联邦设置,通过纳入泰勒展开中一阶导数的联邦近似值来评估每个参数对个人化的重要性。此外,我们将指标计算从客户端迁移到服务器端,以减轻资源受限移动设备的负担。到目前为止,已知本文是首次将经典基于灵感的修剪理论与联邦参数解耦相结合,为基于参数对本地损失景观敏感性选择个人化参数提供了严格的理论依据。大量实验表明,FedOBP在多样化数据集和异构性场景下均优于最先进的方法,同时只需对极少数量的个人化参数进行个人化。
引用
@article{arxiv.2604.16574,
title = {FedOBP: Federated Optimal Brain Personalization through Cloud-Edge Element-wise Decoupling},
author = {Xingyan Chen and Tian Du and Changqiao Xu and Fuzhen Zhuang and Lujie Zhong and Gabriel-Miro Muntean and Enmao Diao},
journal= {arXiv preprint arXiv:2604.16574},
year = {2026}
}