中文

SDFed:通过子空间精炼与散度控制弥合联邦提示学习中的局部-全局差异

机器学习 2026-04-15 v4 数据库

摘要

视觉-语言预训练模型提供了强大的可迁移表示,但在隐私敏感的多方场景中对其进行适配具有挑战性,原因在于联邦优化的高通信成本和客户端有限的本地数据。联邦提示学习通过保持视觉-语言预训练模型骨干冻结并协作训练轻量级提示参数来缓解此问题。然而,现有方法通常跨客户端强制执行统一的提示结构和长度,这在数据分布和系统资源方面都存在实际客户端异质性的情况下是不足的,并且可能进一步引入全局共享知识与局部最优知识之间的冲突。为应对这些挑战,我们提出了\textbf{SDFed},一个异质性联邦提示学习框架,通过子空间精炼与散度控制来弥合局部-全局差异。SDFed维护一个固定长度的全局提示以实现高效聚合,同时允许每个客户端学习一个可变长度的局部提示以更好地匹配其数据特征和能力。为缓解局部-全局冲突并促进有效的知识迁移,SDFed引入了针对局部提示的子空间精炼方法,以及一种信息保留与散度控制策略,该策略在保持全局与局部表示之间适当可分性的同时,保留了关键的局部信息。在多个数据集上的大量实验表明,SDFed在异质性联邦设置中持续提升了性能和鲁棒性。

关键词

引用

@article{arxiv.2602.08590,
  title  = {SDFed: Bridging Local Global Discrepancy via Subspace Refinement and Divergence Control in Federated Prompt Learning},
  author = {Yicheng Di and Wei Yuan and Tieke He and Yuan Liu and Hongzhi Yin},
  journal= {arXiv preprint arXiv:2602.08590},
  year   = {2026}
}

备注

The article contains content that requires significant revision, therefore it is being retracted