贝叶斯联邦学习中基于信息几何投影的免成本个性化
机器学习
2026-01-22 v2 信息论
网络与互联网体系结构
math.IT
摘要
贝叶斯联邦学习将不确定性建模与去中心化训练相结合，能够在数据异构性和隐私约束下开发个性化且可靠的模型。现有方法通常依赖于马尔可夫链蒙特卡洛 (MCMC) 采样或变分推断，并常引入个性化机制以更好地适应局部数据分布。在本工作中，我们提出了一个用于参数化 BFL 中个性化的信息几何投影框架。通过将全局模型投影到用户局部模型的邻域，我们的方法实现了全局泛化与局部特化之间可调节的权衡。在温和的假设下，我们证明该投影步骤等价于在统计流形上计算重心，使我们能够推导出闭式解并实现免成本个性化。我们将所提出的方法应用于使用改进变分在线牛顿 (IVON) 优化器的变分学习设置，并将其应用扩展到 BFL 中的一般聚合方案。在异构数据分布下的经验评估证实，我们的方法能够以极小的计算开销有效平衡全局和局部性能。
引用
@article{arxiv.2509.10132,
title = {Cost-Free Personalization via Information-Geometric Projection in Bayesian Federated Learning},
author = {Nour Jamoussi and Giuseppe Serra and Photios A. Stavrou and Marios Kountouris},
journal= {arXiv preprint arXiv:2509.10132},
year = {2026}
}