胸部放射摄影深度学习基础模型中的偏倚风险
机器学习
2023-10-03 v3 人工智能
计算机视觉与模式识别
计算机与社会
图像与视频处理
摘要
目的：分析近期发表的胸部放射摄影基础模型中是否存在可能导致跨生物性别与种族的子组性能差异的偏倚。材料与方法：本回顾性研究使用了2002年10月至2017年7月间收集的CheXpert数据集中42,884名患者（平均年龄63 [SD] 17岁；23,623名男性，19,261名女性）的127,118张胸部放射照片。为确定胸部放射摄影基础模型与基线深度学习模型所生成特征中偏倚的存在，采用降维方法结合双样本Kolmogorov-Smirnov检验来检测跨性别与种族的分布偏移。随后进行了全面的疾病检测性能分析，以将特征中的任何偏倚与跨患者子组分类性能的具体差异相关联。结果：在所研究基础模型中，跨生物性别与种族的十二对两两比较中有十对显示出统计显著差异，而基线模型中有四次显著检验。在主要捕获疾病的特征投影中，男性与女性（P < .001）以及亚洲与患者与黑种患者（P < .001）间发现显著差异。相较于所有子组的平均模型性能，女性患者在“无发现”标签上的分类性能下降了6.8%至7.8%，黑种患者在“胸腔积液”检测上的性能下降了10.7%至11.6%。结论：所研究的胸部放射摄影基础模型表现出种族与性别相关偏倚，导致跨患者子组的性能差异，可能不适用于临床应用。
引用
@article{arxiv.2209.02965,
title = {Risk of Bias in Chest Radiography Deep Learning Foundation Models},
author = {Ben Glocker and Charles Jones and Melanie Roschewitz and Stefan Winzeck},
journal= {arXiv preprint arXiv:2209.02965},
year = {2023}
}
备注
Radiology: Artificial Intelligence (2023). Code available under https://github.com/biomedia-mira/cxr-foundation-bias/