学习联邦学习中的异构性能-公平性权衡
机器学习
2025-05-01 v1 人工智能
摘要
近期方法利用超网络来处理联邦学习中的性能-公平性权衡。该超网络将客户端对模型性能与公平性之间的偏好映射到权衡曲线上的特定偏好模型,即局部帕累托前沿。然而,现有方法通常采用统一的偏好采样分布来跨客户端训练超网络,忽视了其局部帕累托前沿的固有异构性。同时,从泛化角度来看,它们没有考虑全局数据集上局部与全局帕累托前沿之间的差距。为解决这些局限性,我们提出了HetPFL以有效学习局部和全局帕累托前沿。HetPFL包含偏好采样自适应(PSA)和偏好感知超网络融合(PHF)。PSA自适应地为每个客户端确定最优偏好采样分布,以适应异构的局部帕累托前沿。而PHF执行客户端的超网络的偏好感知融合,以确保全局帕累托前沿的性能。我们证明,在比现有方法更弱的假设下,HetPFL在轮次数量上线性收敛。在四个数据集上的大量实验表明,HetPFL在学习到的局部和全局帕累托前沿质量方面显著优于七个基线方法。
引用
@article{arxiv.2504.21775,
title = {Learning Heterogeneous Performance-Fairness Trade-offs in Federated Learning},
author = {Rongguang Ye and Ming Tang},
journal= {arXiv preprint arXiv:2504.21775},
year = {2025}
}
备注
Accepted by IJCAI 2025