具有异构与私有标签集的联邦学习
机器学习
2025-08-27 v1 机器学习
摘要
尽管异构客户端标签集在现实应用中很常见，但在联邦学习（FL）中鲜有研究。此外，在已有的研究中，通常假设客户端愿意与其他客户端共享其全部标签集。仅与中央服务器共享标签集的私有标签集联邦学习对学习算法施加了进一步约束，且通常是一个更难求解的问题。在本工作中，我们研究了标签集异构性对模型性能的影响，比较了公开与私有标签设置——即联邦中标签集的并集对客户端已知与未知的情况。我们将分类器组合问题的经典方法应用于联邦学习，采用集中式调优，将常见的联邦学习方法适配至私有标签集设置，并讨论了在实践假设下两种方法的合理性。实验表明，减少每个客户端可用的标签数量会严重损害所有方法的性能。对客户端模型进行集中式调优以实现表征对齐有助于缓解此问题，但通常以更高的方差为代价。在整个实验中，我们对标准联邦学习方法的适配表现良好，在私有标签设置下的性能与标准方法在公开设置下的性能相当。这表明客户端可以享受更高的隐私保护，而模型准确率几乎不受损失。
引用
@article{arxiv.2508.18774,
title = {Federated Learning with Heterogeneous and Private Label Sets},
author = {Adam Breitholtz and Edvin Listo Zec and Fredrik D. Johansson},
journal= {arXiv preprint arXiv:2508.18774},
year = {2025}
}