评估机器学习模型与社会决定因素相关的性能偏差：以ICU人群高氯血症预测为例
机器学习
2021-11-19 v1
摘要
医学中的机器学习利用丰富的医疗数据提取知识、促进临床决策并最终改善医疗服务的提供。然而，在缺乏人口统计学多样性的数据集上训练的ML模型，当应用于代表性不足的人群（例如少数族裔、较低社会经济地位者）时，可能产生次优性能，从而延续健康不平等。在本研究中，我们评估了四个为预测高氯血症（一种常由ICU人群中积极液体输注引起的病症）而构建的分类器，并比较了它们在种族、性别和保险子组中的性能。我们观察到，除基于实验室的特征外添加社会决定因素特征改善了所有患者的模型性能。子组测试在44个模型-子组中的40个产生了显著不同的AUC分数，表明将ML模型应用于社会决定因素子组时存在差异。我们敦促未来研究人员设计主动调整潜在偏差的模型，并在其研究中包含子组报告。
引用
@article{arxiv.2111.09507,
title = {Assessing Social Determinants-Related Performance Bias of Machine Learning Models: A case of Hyperchloremia Prediction in ICU Population},
author = {Songzi Liu and Yuan Luo},
journal= {arXiv preprint arXiv:2111.09507},
year = {2021}
}