中文

面向普适计算环境的 FlexFed:缓解异构性联邦学习中的灾难性遗忘

机器学习 2025-05-21 v1

摘要

联邦学习 (FL) 通过允许客户端共享模型更新而非原始数据来实现协作模型训练,同时保持隐私。在我们关注的本文中,普适计算环境(例如用于人类活动识别, HAR)以资源受限的终端设备、流式传感器数据和间歇性客户端参与为特征。用户行为的差异在 HAR 环境中常见,常导致非平稳数据分布。因此,现有 FL 方法在 HAR 场景下因假设不同而面临挑战。HAR 特征的综合作用,即异构数据和间歇性参与,可能导致称为灾难性遗忘 (CF) 的严重问题。与使用记忆和回放机制解决 CF 的连续学习 (CL) 不同,FL 的隐私限制禁止此类策略。为解决 HAR 环境中的 CF,我们提出了 FlexFed,一种新的 FL 方法,优先考虑数据保留以实现高效内存使用,并根据分布偏移、客户端能力和离线时长动态调整离线训练频率。为更好地量化 FL 中的 CF,我们引入了一种考虑欠代表数据的数据新指标,以实现更准确的评估。我们还开发了基于现实 HAR 的评估框架,模拟流式数据、动态分布、不平衡和可变性。实验表明,FlexFed 更有效地缓解了 CF,提高了 FL 效率提升 10%~15%,实现更快更稳定的收敛,尤其对于稀疏或欠代表数据效果显著。

关键词

引用

@article{arxiv.2505.13576,
  title  = {FlexFed: Mitigating Catastrophic Forgetting in Heterogeneous Federated Learning in Pervasive Computing Environments},
  author = {Sara Alosaime and Arshad Jhumka},
  journal= {arXiv preprint arXiv:2505.13576},
  year   = {2025}
}