中文

HEART-PFL:基于分层方向对齐和对抗知识迁移的异构情境下的稳定个性化联邦学习

计算机视觉与模式识别 2026-03-26 v1 机器学习

摘要

个性化联邦学习(PFL)旨在在异构分布下提供有效的客户端专属模型,但现有方法受限于浅层原型对齐和脆弱的服务器端蒸馏。我们提出了HEART-PFL框架(i)通过在早期阶段使用余弦相似度进行深度感知的分层方向对齐(HDA),在深层阶段进行MSE匹配,以保留客户端特有性;(ii)通过在干净数据和对抗性代理数据上的对称KL蒸馏实现对抗知识迁移(AKT),稳定全局更新。采用仅需1.46M可训练参数的轻量级适配器,HEART-PFL在CIFAR-100、Flowers-102和Caltech-101上实现了在Dirichlet非IID分区下的63.42%、84.23%和95.67%的最佳个性化准确率,同时对超出领域的代理数据保持稳健性。消融实验进一步确认HDA和AKT在对齐、鲁棒性和优化稳定性方面提供互补性收益,阐明了两者如何相互强化有效个性化。总体而言,这些结果表明HEART-PFL在提升个性化效果和全局稳定性方面实现了同步增强,凸显其作为PFL强大且可扩展解决方案的潜力(代码可在https://github.com/danny0628/HEART-PFL获取)。

关键词

引用

@article{arxiv.2603.24209,
  title  = {HEART-PFL: Stable Personalized Federated Learning under Heterogeneity with Hierarchical Directional Alignment and Adversarial Knowledge Transfer},
  author = {Minjun Kim and Minje Kim},
  journal= {arXiv preprint arXiv:2603.24209},
  year   = {2026}
}

备注

Accepted at WACV 2026. 8 pages, 7 figures, 3 tables