非独立同分布数据上的联邦PAC-Bayesian学习
机器学习
2023-09-14 v1 分布式、并行与集群计算
摘要
现有研究要么将可能近似正确(Probably Approximately Correct, PAC)-Bayesian框架适配于联邦学习(FL),要么在引入其定理时使用信息论PAC-Bayesian界,但很少考虑FL中的非IID挑战。我们的工作提出了首个针对非IID本地数据定制的非平凡联邦PAC-Bayesian界。该界为每个客户端假设独特的先验知识并采用可变聚合权重。我们还引入了目标函数以及一种创新的基于Gibbs的算法来优化所导出的界。结果在真实世界数据集上得到验证。
引用
@article{arxiv.2309.06683,
title = {Federated PAC-Bayesian Learning on Non-IID data},
author = {Zihao Zhao and Yang Liu and Wenbo Ding and Xiao-Ping Zhang},
journal= {arXiv preprint arXiv:2309.06683},
year = {2023}
}