联邦贝叶斯学习的客户端选择
机器学习
2023-03-14 v2 信号处理
摘要
分布式 Stein 变分梯度下降（DSVGD）是一种用于联邦贝叶斯学习的非参数分布式学习框架，多个客户端通过与服务器通信若干非随机且交互的粒子来联合训练机器学习模型。由于通信资源有限，选择具有信息量最大本地学习更新的客户端可改善模型收敛与通信效率。本文提出两种基于核化 Stein 差异（KSD）与希尔伯特内积（HIP）的 DSVGD 客户端选择方案。我们推导了两种方案每轮全局自由能下降的上界，并最小化该上界以加速模型收敛。我们使用多种学习任务与数据集，从模型精度、收敛速度与稳定性方面评测并与常规方案比较。
引用
@article{arxiv.2212.05492,
title = {Client Selection for Federated Bayesian Learning},
author = {Jiarong Yang and Yuan Liu and Rahif Kassab},
journal= {arXiv preprint arXiv:2212.05492},
year = {2023}
}
备注
To appear in IEEE Journal on Selected Areas in Communications Special Issue on Communication-Efficient Distributed Learning over Networks