Flow：通过动态路由实现逐实例个性化联邦学习
机器学习
2024-02-13 v2
摘要
联邦学习（FL）中的个性化旨在根据每个客户端调整协同训练的全局模型。当前FL中的个性化方法处于粗粒度级别，即一个客户端的所有输入实例都使用同一个个性化模型。这忽略了某些实例由于具有更好的泛化性，由全局模型处理更为准确的事实。为应对这一挑战，本工作提出了Flow，一种细粒度的无状态个性化FL方法。Flow通过学习一种路由机制来创建动态个性化模型，该机制决定一个输入实例是偏好本地参数还是其全局对应参数。因此，Flow除了利用逐客户端个性化之外，还引入了逐实例路由，以提高每个客户端的准确度。此外，Flow是无状态的，这使得客户端无需在FL轮次之间保留其个性化状态。这使得Flow适用于大规模FL设置，并对新加入的客户端友好。在Stackoverflow、Reddit和EMNIST数据集上的评估表明，Flow在预测准确度上优于当前最先进的非个性化和仅逐客户端个性化的FL方法。
引用
@article{arxiv.2211.15281,
title = {Flow: Per-Instance Personalized Federated Learning Through Dynamic Routing},
author = {Kunjal Panchal and Sunav Choudhary and Nisarg Parikh and Lijun Zhang and Hui Guan},
journal= {arXiv preprint arXiv:2211.15281},
year = {2024}
}
备注
37th Annual Conference on Neural Information Processing Systems (NeurIPS), 2023