揭示特定群体的分布式概念漂移:联邦学习中的公平性要务
机器学习
2025-09-15 v4
摘要
在机器学习不断发展的领域中,确保群体公平性已成为一个关键问题,促使人们开发旨在减轻决策过程中偏差的算法。群体公平性是指模型的决策应针对由性别或种族等敏感属性定义的不同群体公平,确保来自特权群体和非特权群体的个体得到公平对待并获得相似结果。然而,在存在特定群体概念漂移的情况下实现公平性仍是一个未探索的前沿,我们的研究代表了这方面的开创性努力。特定群体概念漂移是指一个群体随时间经历概念漂移而另一个群体没有的情况,导致公平性下降,即使准确性保持相当稳定。在联邦学习框架内,客户端协作训练模型,其分布式特性进一步放大了这些挑战,因为每个客户端可以独立经历特定群体概念漂移,同时仍共享相同的基础概念,从而为维护公平性创造了复杂且动态的环境。我们研究最重要的贡献是形式化和引入了特定群体概念漂移及其分布式对应问题,揭示了其在公平性领域的关键重要性。此外,利用先前研究的见解,我们改编了一种现有的分布式概念漂移适应算法来处理特定群体分布式概念漂移,该算法使用多模型方法、局部特定群体漂移检测机制以及模型随时间的连续聚类。我们的实验发现强调了解决特定群体概念漂移及其分布式对应问题对于推进机器学习公平性的重要性。
引用
@article{arxiv.2402.07586,
title = {Unveiling Group-Specific Distributed Concept Drift: A Fairness Imperative in Federated Learning},
author = {Teresa Salazar and João Gama and Helder Araújo and Pedro Henriques Abreu},
journal= {arXiv preprint arXiv:2402.07586},
year = {2025}
}
备注
accepted for publication in IEEE Transactions on Neural Networks and Learning Systems (early access, Sep. 2025)