FedAli:面向泛化移动服务的基于原型层的个性化联邦学习对齐
机器学习
2025-07-08 v2 密码学与安全
计算机视觉与模式识别
摘要
个性化联邦学习 (PFL) 使边缘设备上的分布式训练成为可能,允许模型协作学习全局模式,同时调整参数以更好地适应每个客户端的本地数据,同时保护数据隐私。然而,PFL 在移动系统中面临两个关键挑战:客户端漂移,即异构数据导致模型发散;以及被忽视的客户端泛化需求,因为移动感知的动态性要求超越本地环境的适应。为了克服这些限制,我们引入了联邦对齐 (FedAli),这是一种基于原型的正则化技术,可增强客户端间对齐,同时增强个性化适应的鲁棒性。其核心是带原型的对齐 (ALP) 层,受人类记忆启发,通过引导推理嵌入朝向个性化原型来增强泛化,同时在训练期间通过与共享原型对齐来减少客户端漂移。通过利用最优传输计划计算原型-嵌入分配,我们的方法允许在没有任何类标签的情况下预训练原型,以进一步加速收敛并提高性能。大量实验表明,FedAli 在异构环境下显著增强了客户端泛化能力,同时保持了强个性化。
引用
@article{arxiv.2411.10595,
title = {FedAli: Personalized Federated Learning Alignment with Prototype Layers for Generalized Mobile Services},
author = {Sannara Ek and Kaile Wang and François Portet and Philippe Lalanda and Jiannong Cao},
journal= {arXiv preprint arXiv:2411.10595},
year = {2025}
}