面向人口统计差异与数据不平衡下的公平联邦学习
计算机与社会
2025-05-15 v1 人工智能
机器学习
摘要
在将人工智能应用于医疗保健等高风险领域时，确保公平性至关重要，因为在不平衡和人口统计偏斜数据上训练的预测模型可能会加剧现有的差异。联邦学习（FL）支持跨机构的隐私保护协作，但仍然容易受到算法偏差和子组不平衡的影响——尤其是当多个敏感属性相交时。我们提出了 FedIDA（Fed erated Learning for Imbalance and D isparity A wareness，即面向不平衡与差异感知的联邦学习），这是一种与框架无关的方法，结合了公平感知正则化和组条件过采样。FedIDA 支持多个敏感属性和异构数据分布，且不改变底层 FL 算法的收敛行为。我们提供了使用 Lipschitz 连续性和集中不等式确立公平性改进边界的理论分析，并表明 FedIDA 减少了测试集中公平性指标的方差。在基准数据集和真实世界临床数据集上的实证结果证实，FedIDA 在保持有竞争力的预测性能的同时，持续提高了公平性，证明了其在医疗保健中公平且保护隐私的建模方面的有效性。源代码可在 GitHub 上获取。
引用
@article{arxiv.2505.09295,
title = {Toward Fair Federated Learning under Demographic Disparities and Data Imbalance},
author = {Qiming Wu and Siqi Li and Doudou Zhou and Nan Liu},
journal= {arXiv preprint arXiv:2505.09295},
year = {2025}
}