稀疏去中心化联邦学习
机器学习
2025-03-18 v2
摘要
去中心化联邦学习（DFL）支持无中心服务器的协作模型训练，但由于分布式节点间的通信与计算限制，其在效率、稳定性和可信性方面面临挑战。为解决这些关键问题，我们对共享模型引入稀疏性约束，从而提出稀疏 DFL（SDFL），并给出一种新颖算法 CEPS。该稀疏性约束有助于利用一位压缩感知在特定步骤于部分选定的邻居节点间传输一位信息，从而显著提升通信效率。此外，我们将差分隐私集成到算法中以确保隐私保护并增强学习过程的可信性。进而，CEPS 在收敛性与隐私方面均具有理论保证。数值实验验证了所提算法在提升通信与计算效率的同时保持高水平可信性的有效性。
引用
@article{arxiv.2308.16671,
title = {Sparse Decentralized Federated Learning},
author = {Shan Sha and Shenglong Zhou and Lingchen Kong and Geoffrey Ye Li},
journal= {arXiv preprint arXiv:2308.16671},
year = {2025}
}