公平诊断：利用因果建模缓解医疗偏见
计算机视觉与模式识别
2024-12-09 v1
摘要
在医学图像分析中，模型预测可能受到敏感属性（如种族和性别）的影响，导致公平性问题和诊断结果潜在偏见。为缓解此问题，我们提出一种因果建模框架，旨在减少敏感属性对诊断预测的影响。我们的方案引入一种新颖的公平性准则，即“诊断公平性”（Diagnosis Fairness），并利用路径特定公平性控制人口统计属性的影响，确保预测主要由临床相关特征而非敏感属性驱动。通过纳入对抗性扰动掩码，我们的框架引导模型关注关键图像区域，抑制可能引发偏见的信息。跨多个数据集的实验结果表明，我们的框架有效地减少了与敏感属性直接相关的偏见，同时保持诊断准确性。我们的发现表明，因果建模可以提高AI驱动临床决策支持系统的公平性和可解释性。
引用
@article{arxiv.2412.04739,
title = {Fair Diagnosis: Leveraging Causal Modeling to Mitigate Medical Bias},
author = {Bowei Tian and Yexiao He and Meng Liu and Yucong Dai and Ziyao Wang and Shwai He and Guoheng Sun and Zheyu Shen and Wanghao Ye and Yongkai Wu and Ang Li},
journal= {arXiv preprint arXiv:2412.04739},
year = {2024}
}