基于梯度 von Neumann 熵的数据无关性质贡献估计：联邦学习中的实现
机器学习
2026-04-27 v1 人工智能
计算机视觉与模式识别
分布式、并行与集群计算
摘要
在联邦学习中估计客户贡献对于识别客户的重要性以及提供公平的奖励至关重要。当前方法常依赖服务器侧的验证数据或客户自报告的信息，这可能侵犯隐私或容易受到操纵。我们引入了一种基于最终层更新矩阵 von Neumann（谱）熵的无数据信号，用于衡量所贡献信息的多样性。我们实现了两种实际方案：(i) SpectralFed 使用归一化熵作为聚合权重， (ii) SpectralFuse 采用基于秩自适应卡尔曼滤波器的类特定对齐方式进行融合，以实现每轮的稳定性。 在 CIFAR-10/100 和自然分区的 FEMNIST 和 FedISIC 数据集上，熵派生的得分在各种非独立同分布（non-IID）情形下均与独立客户端准确度高度相关——无需验证数据或客户元数据。我们将结果与数据无关的贡献估计基线进行比较，表明谱熵是客户贡献的有用指示器。
引用
@article{arxiv.2604.22562,
title = {Data-Free Contribution Estimation in Federated Learning using Gradient von Neumann Entropy},
author = {Asim Ukaye and Mubarak Abdu-Aguye and Nurbek Tastan and Karthik Nandakumar},
journal= {arXiv preprint arXiv:2604.22562},
year = {2026}
}
备注
10 pages, 4 figures, 4 pages Appendix, 6 figures in Appendix. To appear in CVPR 2026 FedVision Workshop