改善电子健康记录上 AI 模型的公平性：联邦学习方法的应用
机器学习
2023-05-22 v1 计算机与社会
摘要
开发保持公平性的 AI 工具至关重要，尤其在医疗等高风险应用中。然而，健康 AI 模型的整体预测性能常优先于其可能存在的偏差。本研究中，我们展示了一种通过联邦学习范式（FL；医疗环境中的流行选择）让医疗机构协作以缓解偏差问题的可能方法。尽管先前已提出强调公平性的 FL 方法，但其底层模型与局部实现技术，以及其在医疗领域的潜在应用仍鲜有研究。因此，我们提出一种全面的 FL 方法，结合对抗去偏与适用于多种公平性度量的公平聚合方法，用于使用电子健康记录的医疗领域。我们的方法不仅在优化过程中显式缓解偏差，而且基于 FL 的范式也会隐式帮助解决数据不平衡并增加数据规模，为医疗应用提供实用方案。我们在模拟大规模真实场景的多个实验上实证展示了方法的优越性能，并与若干基线比较。我们的方法在整体判别性能（准确率）受影响最小的情况下取得了有前景的公平性表现。
引用
@article{arxiv.2305.11386,
title = {Improving Fairness in AI Models on Electronic Health Records: The Case for Federated Learning Methods},
author = {Raphael Poulain and Mirza Farhan Bin Tarek and Rahmatollah Beheshti},
journal= {arXiv preprint arXiv:2305.11386},
year = {2023}
}
备注
Accepted to ACM FAccT 2023