智能采样：来自友好邻居的帮助用于去中心化联邦学习
机器学习
2024-07-08 v1
摘要
联邦学习（FL）因其在保持隐私和减少通信成本方面的能力而受到广泛关注。与集中式 FL 不同，去中心化联邦学习（DFL）采用网络架构，无需中央服务器，允许客户之间直接通信，从而实现显著的通信资源节省。然而，由于数据异构性，並非所有邻居节点都有助于提高本地客户的模型性能。本文引入一种名为 AFIND+ 的简单且高效的算法，用于在 DFL 中进行采样和聚合，旨在利用协作来提高客户的模型性能。AFIND+ 识别有助于邻居的节点，适应性地调整所选邻居的数量，并根据其贡献战略性地聚合所采样邻居的模型。在具有多样化数据分区的真实数据集上进行的数值实验表明，AFIND+ 在 DFL 中的其他采样算法中表现更优，并且与大多数现有的 DFL 优化算法兼容。
引用
@article{arxiv.2407.04460,
title = {Smart Sampling: Helping from Friendly Neighbors for Decentralized Federated Learning},
author = {Lin Wang and Yang Chen and Yongxin Guo and Xiaoying Tang},
journal= {arXiv preprint arXiv:2407.04460},
year = {2024}
}