多维公平联邦学习
机器学习
2023-12-12 v1
摘要
联邦学习（FL）已成为一种极具前景的协作与安全范式，能够在不损害隐私的前提下利用去中心化数据训练模型。群体公平性和客户端公平性是联邦学习中至关重要的两个公平性维度。标准联邦学习可能导致某些客户端遭受不成比例的劣势，且在群体中公平对待不同群体方面仍面临挑战。在不损害弱势客户端泛化能力的前提下私密地训练公平联邦学习模型，仍是一个开放问题。本文提出一种名为 mFairFL 的方法来解决此问题，并同时实现群体公平性和客户端公平性。mFairFL 利用微分乘子构建带有公平性约束的经验风险最小化优化目标。在聚合本地训练的模型之前，它首先检测其梯度间的冲突，随后迭代地调整梯度的方向与幅度以缓解这些冲突。理论分析证明 mFairFL 促进了模型开发中的公平性。基于三个基准数据集的实验评估表明，与七个最先进的基线方法相比，mFairFL 具有显著优势。
引用
@article{arxiv.2312.05551,
title = {Multi-dimensional Fair Federated Learning},
author = {Cong Su and Guoxian Yu and Jun Wang and Hui Li and Qingzhong Li and Han Yu},
journal= {arXiv preprint arXiv:2312.05551},
year = {2023}
}
备注
Accepted by the Thirty-Eighth AAAI Conference on Artificial Intelligence (AAAI2024)