通过提示驱动的特征转换解决联邦学习中的特征-分类器不匹配问题
机器学习
2024-07-24 v1
摘要
在传统的联邦学习方法（如 FedAvg）中，当面临数据异构性时，全局模型表现不佳。个人化联邦学习（PFL）使客户端能够训练个人化模型，以更好地适应其本地数据分布。然而，我们惊讶地发现，FedAvg 中的特征提取器优于大多数 PFL 方法中的特征提取器。更有趣的是，通过对由特征提取器提取的局部特征应用线性变换以与分类器对齐，FedAvg 可以超越大多数 PFL 方法。这表明，FedAvg 性能不足的根本原因源于局部提取特征与分类器之间的不匹配。虽然当前的 PFL 方法在某种程度上缓解了这一问题，但其设计会损害特征提取器的质量，从而限制了 PFL 的潜力。本文提出了新的 PFL 框架 FedPFT，以解决此问题同时提升特征提取器的质量。FedPFT 将一个由个人化提示驱动的特征转换模块集成到全局特征提取器和分类器之间。在每个轮次中，客户端首先训练提示以将局部特征转换为匹配全局分类器，然后训练模型参数。该方法还可以对齐客户端的训练目标，减少数据异构性对模型协作的影响。此外，FedPFT 的特征转换模块高度可扩展，允许使用不同的提示将局部特征量身定制用于各种任务。利用这一点，我们引入一种协作对比学习任务进一步细化特征提取器的质量。我们的实验表明，FedPFT 在最先进方法上取得最高可达 7.08% 的优势。
引用
@article{arxiv.2407.16139,
title = {Tackling Feature-Classifier Mismatch in Federated Learning via Prompt-Driven Feature Transformation},
author = {Xinghao Wu and Jianwei Niu and Xuefeng Liu and Mingjia Shi and Guogang Zhu and Shaojie Tang},
journal= {arXiv preprint arXiv:2407.16139},
year = {2024}
}
备注
23 pages, 9 figures