UA-PDFL：一种面向去中心化联邦学习的个性化方法
机器学习
2024-12-17 v1 人工智能
摘要
联邦学习（FL）是一种隐私保护的机器学习范式，旨在协作学习全局模型而不泄露数据。具体来说，在典型的FL系统中，中央服务器仅作为协调者，迭代聚合每个客户端训练的本地模型，这可能引入单点传输瓶颈和安全威胁。为了解决这个问题，提出了去中心化联邦学习（DFL），其中所有参与的客户端在没有中央服务器的情况下进行点对点通信。然而，由于客户端数据的非独立同分布（non-IID）特性，DFL仍然像FL一样遭受训练退化。将个性化层纳入DFL可能是缓解non-IID数据副作用的最有效解决方案。因此，在本文中，我们提出了一种新颖的基于单元表示辅助的个性化去中心化联邦学习框架，命名为UA-PDFL，以应对DFL中的non-IID挑战。通过单元表示的指导自适应调整个性化层的级别，UA-PDFL能够处理不同程度的数据偏斜。基于此方案，提出了客户端级dropout和层级个性化以进一步增强DFL的学习性能。大量实验实证证明了我们提出方法的有效性。
引用
@article{arxiv.2412.11674,
title = {UA-PDFL: A Personalized Approach for Decentralized Federated Learning},
author = {Hangyu Zhu and Yuxiang Fan and Zhenping Xie},
journal= {arXiv preprint arXiv:2412.11674},
year = {2024}
}