CheXclusion：深度胸部 X 射线分类器中的公平性差距
计算机视觉与模式识别
2020-10-19 v2 人工智能
机器学习
图像与视频处理
机器学习
摘要
机器学习系统近期因其在临床任务（尤其是医学影像）中达到专家级性能的能力而备受关注。在此，我们考察了当前最先进的、训练用于从 X 射线图像生成诊断标签的深度学习分类器在受保护属性方面存在偏见的程度。我们训练卷积神经网络，在 3 个著名的公共胸部 X 射线数据集（MIMIC-CXR、Chest-Xray8、CheXpert）以及这些数据集的多站点聚合集上预测 14 个诊断标签。我们以患者性别、年龄、种族和保险类型（作为社会经济地位的代理）等不同受保护属性间的真阳性率（TPR）差异（即真阳性率之差）来评估公平性差距。我们证明，在所有数据集、所有临床任务和所有子群中，最先进的分类器均存在 TPR 差异。多源数据集对应的差异最小，这提示了一种减少偏见的途径。我们发现 TPR 差异与子群的疾病负担比例无显著相关性。随着临床模型从论文走向产品，我们鼓励临床决策者在部署前仔细审查算法差异。我们的代码可在 https://github.com/LalehSeyyed/CheXclusion 获取。
引用
@article{arxiv.2003.00827,
title = {CheXclusion: Fairness gaps in deep chest X-ray classifiers},
author = {Laleh Seyyed-Kalantari and Guanxiong Liu and Matthew McDermott and Irene Y. Chen and Marzyeh Ghassemi},
journal= {arXiv preprint arXiv:2003.00827},
year = {2020}
}
备注
Paper is accepted in Pacific Symposium on Biocomputing 2021 (PSB2021). Code can be found at, https://github.com/LalehSeyyed/CheXclusion