FAIR-FATE：基于动量的公平联邦学习
机器学习
2023-07-04 v2 人工智能
分布式、并行与集群计算
摘要
尽管公平感知的机器学习算法日益受到关注，但焦点一直集中在集中式机器学习上，去中心化方法尚未得到充分探索。联邦学习是一种去中心化的机器学习形式，其中客户端训练本地模型，由服务器聚合以得到共享的全局模型。客户端间的数据异构性是联邦学习的常见特征，可能诱发或加剧由种族或性别等敏感属性定义的非特权群体的歧视。本工作中我们提出FAIR-FATE：一种新颖的公平联邦学习（FAIR FederATEd Learning）算法，旨在通过公平感知的聚合方法在保持高效用的同时实现群体公平，该方法在計算全局模型时考虑客户端的公平性。为此，通过使用一个动量项估计公平模型更新来计算全局模型更新，该动量项有助于克服非公平梯度的振荡。据我们所知，这是机器学习中首个利用公平动量估计实现公平的方法。在真实世界数据集上的实验结果表明，FAIR-FATE在不同数据异构程度下均优于最先进的公平联邦学习算法。
引用
@article{arxiv.2209.13678,
title = {FAIR-FATE: Fair Federated Learning with Momentum},
author = {Teresa Salazar and Miguel Fernandes and Helder Araujo and Pedro Henriques Abreu},
journal= {arXiv preprint arXiv:2209.13678},
year = {2023}
}
备注
This preprint has not undergone peer review or any post-submission improvements or corrections. The Version of Record of this contribution is published in ICCS 2023 - Lecture Notes in Computer Science, vol 14073, Springer, and is available online at https://doi.org/10.1007/978-3-031-35995-8_37