中文

基于凸聚类的个性化联邦学习

机器学习 2022-02-21 v2

摘要

我们提出了一类用于具有局部凸用户代价的个性化联邦学习的参数化算法族。所提框架基于凸聚类的推广,其中不同用户模型之间的差异通过和范数惩罚进行惩罚,并由惩罚参数λ\lambda加权。该方法能够实现“自动”模型聚类,无需隐藏簇结构或簇数量的先验知识。我们给出了权重参数的解析界,其可同时实现个性化、泛化与自动模型聚类。所表述问题的解通过在不同簇间提供不同模型实现个性化,并通过提供不同于孤立计算的每用户模型实现泛化。随后我们基于并行乘子方向法(PDMM)提供了一种高效算法,在联邦服务器-用户设置下求解所提公式。数值实验证实了我们的发现。作为一个有趣副产品,我们的结果对凸聚类提供了若干推广。

关键词

引用

@article{arxiv.2202.00718,
  title  = {Personalized Federated Learning via Convex Clustering},
  author = {Aleksandar Armacki and Dragana Bajovic and Dusan Jakovetic and Soummya Kar},
  journal= {arXiv preprint arXiv:2202.00718},
  year   = {2022}
}

备注

Changed template. Figure 4 separated into Figure 4 and Figure 5