子群可分离性在群体公平医学图像分类中的作用
计算机视觉与模式识别
2023-07-07 v1 人工智能
计算机与社会
机器学习
摘要
我们研究深度分类器中的性能差异。我们发现分类器将个体分离为子群的能力在医学成像模态与受保护特征间差异显著；关键的是，我们表明该性质可预测算法偏差。通过理论分析与广泛的实证评估，我们发现了子群可分离性、子群差异以及当模型在具有系统性偏差（如漏诊）的数据上训练时的性能退化之间的关系。我们的发现为模型如何产生偏差这一问题提供了新见解，为公平医学成像 AI 的开发提供了重要启示。
引用
@article{arxiv.2307.02791,
title = {The Role of Subgroup Separability in Group-Fair Medical Image Classification},
author = {Charles Jones and Mélanie Roschewitz and Ben Glocker},
journal= {arXiv preprint arXiv:2307.02791},
year = {2023}
}
备注
Accepted at MICCAI 2023. Code available under https://github.com/biomedia-mira/subgroup-separability