FedHCA$^2$:面向异质客户端的联邦多任务学习
计算机视觉与模式识别
2024-03-01 v2 机器学习
摘要
联邦学习(Federated Learning, FL)利用各分布式客户端的本地数据实现隐私保护下的联合训练。联邦多任务学习(Federated Multi-Task Learning, FMTL)在FL基础上处理多个任务,其假设各客户端部署完全相同的模型架构。为放宽该假设从而拓展实际适用性,我们引入一种新问题设定——异质客户端联邦多任务学习(Hetero-Client Federated Multi-Task Learning, HC-FMTL),以容纳多样的任务配置。HC-FMTL的主要挑战在于模型不一致问题,它使传统聚合方法失效,并加剧了在应对FMTL固有数据与任务异构性时精确模型聚合的难度。为应对这些挑战,我们提出FedHCA框架,通过对异质客户端间关系建模来实现个性化模型的联邦训练。基于我们对多任务优化与联邦优化差异的理论洞察,提出超冲突规避聚合(Hyper Conflict-Averse Aggregation)方案以缓解编码器更新中的冲突。此外,受多任务学习中任务交互的启发,超交叉注意力聚合(Hyper Cross Attention Aggregation)方案利用分层交叉注意力增强解码器交互,同时缓解模型不一致。我们还为每个客户端采用可学习的超聚合权重(Hyper Aggregation Weights)以定制个性化参数更新。大量实验表明,FedHCA在各种HC-FMTL场景下相较代表性方法具有优越性能。我们的代码将公开可用。
引用
@article{arxiv.2311.13250,
title = {FedHCA$^2$: Towards Hetero-Client Federated Multi-Task Learning},
author = {Yuxiang Lu and Suizhi Huang and Yuwen Yang and Shalayiding Sirejiding and Yue Ding and Hongtao Lu},
journal= {arXiv preprint arXiv:2311.13250},
year = {2024}
}
备注
Accepted by CVPR 2024