联邦公平性分析：量化联邦学习中的公平性
机器学习
2024-08-16 v1 人工智能
分布式、并行与集群计算
计算机科学与博弈论
神经与进化计算
摘要
联邦学习是一种用于分布式机器学习的隐私增强技术。通过本地训练模型并聚合更新——联邦共同学习，同时绕过了集中式数据采集。联邦学习在医疗、金融和个人计算领域日益流行。然而，它继承了经典机器学习中的公平性挑战，并引入了新的挑战，这些挑战源于数据质量、客户端参与、通信约束、聚合方法和底层硬件的差异。公平性仍然是联邦学习中尚未解决的问题，社区已识别出缺乏简洁的定义和指标来量化公平性；为了解决这一问题，我们提出了联邦公平性分析——一种测量公平性的方法论。我们的公平性定义包含四个概念，并配有新颖的相应指标。它们以症状学方式定义，并利用了源自可解释人工智能、合作博弈论和网络工程的技术。我们测试了多种实验设置，包括不同的联邦学习方法、机器学习任务和数据设置。实验结果表明，统计异质性和客户端参与影响公平性，而注重公平性的方法如 Ditto 和 q-FedAvg 仅边际改善了公平性与性能之间的权衡。使用我们的技术，联邦学习从业者可以发现其系统公平性中此前无法获得的洞察，以不同的粒度级别来解决联邦学习中的公平性挑战。我们已开源我们的工作：https://github.com/oscardilley/federated-fairness。
引用
@article{arxiv.2408.08214,
title = {Federated Fairness Analytics: Quantifying Fairness in Federated Learning},
author = {Oscar Dilley and Juan Marcelo Parra-Ullauri and Rasheed Hussain and Dimitra Simeonidou},
journal= {arXiv preprint arXiv:2408.08214},
year = {2024}
}