医疗 AI 中的公平性与性能平衡：一种梯度协调方法
机器学习
2025-04-22 v1 计算机与社会
摘要
医疗数据的快速增长和计算能力的进步推动了人工智能（AI）在医学领域的应用。然而，部署时未明确考虑公平性的 AI 系统可能加剧现存的医疗不平等，导致不同人口统计亚群之间的资源分配和诊断不公平。为应对这一挑战，我们提出了 FairGrad—a一种新颖的梯度协调框架，用于在医疗 AI 模型中自动平衡预测性能和多属性公平性优化。我们的方法通过将每个梯度向量投影到其他梯度的正交平面上，从而解决冲突的优化目标，正规化优化轨迹，以确保所有目标得到公平考虑。在多样化的真实世界医疗数据集和预测任务上进行评估——包括物质使用障碍（SUD）治疗和脓毒症死亡率——FairGrad 在多属性公平性指标（例如平等机会）方面实现了统计显著的改进，同时保持了具竞争力的预测准确性。这些结果表明，在关键医疗 AI 应用中实现公平性与实用性的和谐是可行的。
引用
@article{arxiv.2504.14388,
title = {Balancing Fairness and Performance in Healthcare AI: A Gradient Reconciliation Approach},
author = {Xiaoyang Wang and Christopher C. Yang},
journal= {arXiv preprint arXiv:2504.14388},
year = {2025}
}
备注
Accepted to the 23rd International Conference on Artificial Intelligence in Medicine (AIME 2025)