中文

BTFL:一种基于贝叶斯的方法,用于在联邦学习中处理内部与外部数据分布的测试时泛化

机器学习 2025-03-11 v1 人工智能

摘要

联邦学习(FL)使多个客户端能够在保持数据隐私的同时协同开发全局模型。然而,线上 FL 部署面临分布迁移和不断演变的测试样本的挑战。个人化联邦学习(PFL)为每个客户端分布量身定制全局模型,但在测试时会因遇到的外分布(OOD)样本而导致性能下降。在实际场景中,在测试阶段平衡泛化与个人化是至关重要的,而现有方法主要关注训练阶段的泛化。为此,本文提出一种新情景:联邦学习中内部分布(IND)和外部分布(EXD)下的测试时泛化(TGFL)。我们提出 BTFL,这是一种用于 TGFL 的基于贝叶斯的测试时泛化方法,在测试阶段以样本水平平衡泛化与个人化。BTFL 采用双头架构存储局部与全局知识,通过考虑历史测试数据和当前样本特征的双贝叶斯框架进行预测插值,具有理论保证并具备更快的速度。我们的实验表明,BTFL 在各种数据集和模型上实现了 improved performance,并具有更低的计算成本。源代码已公开发布于 https://github.com/ZhouYuCS/BTFL。

关键词

引用

@article{arxiv.2503.06633,
  title  = {BTFL: A Bayesian-based Test-Time Generalization Method for Internal and External Data Distributions in Federated learning},
  author = {Yu Zhou and Bingyan Liu},
  journal= {arXiv preprint arXiv:2503.06633},
  year   = {2025}
}

备注

accepted as KDD 2025 research track paper