Task2Vec就绪度:基于预训练嵌入的联邦学习诊断方法
机器学习
2026-04-14 v1 人工智能
摘要
联邦学习(FL)的性能对客户端间的异质性高度敏感,然而从业者缺乏可靠的方法在训练前预测一个联邦将如何表现。我们提出了基于Task2Vec嵌入的就绪度指数,该指数在训练前量化联邦的对齐程度,并与其最终性能相关。我们的方法直接从客户端嵌入计算无监督指标,如内聚度、离散度和密度。我们在不同数据集(CIFAR-10、FEMNIST、PathMNIST、BloodMNIST)和客户端数量(10-20)下,在涵盖α∈{0.05,...,5.0}的狄利克雷异质性水平以及FedAVG聚合策略下评估了这些指数。相关性分析显示,在某些基于Task2Vec的就绪度指标与最终性能之间,存在一致且显著的皮尔逊和斯皮尔曼相关系数,其值在数据集×客户端配置下通常超过0.9,验证了该方法作为联邦学习结果的稳健代理。这些发现确立了基于Task2Vec的就绪度作为联邦学习的一种有原则的、训练前的诊断方法,可为异构联邦中的客户端选择提供预测性洞察和可操作的指导。
引用
@article{arxiv.2604.10849,
title = {Task2vec Readiness: Diagnostics for Federated Learning from Pre-Training Embeddings},
author = {Cristiano Mafuz and Rodrigo Silva},
journal= {arXiv preprint arXiv:2604.10849},
year = {2026}
}