评估脉搏氧饱和度偏差在反事实思维下的机器学习影响
机器学习
2024-08-09 v1
摘要
算法偏见在医疗保健领域镜像了现存的数据偏见。然而，驱动不公平的因素并非总是被知晓。医疗器械捕获大量数据，但容易出错；例如，脉搏氧饱和度计会高估深色皮肤个体的动脉氧饱和度，导致不良结局。该偏见在机器学习(ML)模型中的影响尚不清楚。本研究针对医疗器械偏见在下游机器学习中的量化技术挑战进行了探讨。我们的实验在反事实设计下进行：将“完美世界”（无脉搏氧饱和度偏见）使用血气SaO2，与“实际世界”（存在偏见）使用脉搏氧饱和度SpO2进行比较。在此反事实设计下，两个模型在数据、特征和设置上相同，仅在氧气饱和度测量方法不同：使用SaO2的模型为“对照组”，使用SpO2的模型为“处理组”。血气氧饱和度关联数据集是一个合适的测试舞台，包含163,396个几乎同时的SpO2-SaO2配对测量，与广泛的临床特征和结局相吻合。我们研究了三个分类任务：住院死亡率、24小时内呼吸系统SOFA评分以及SOFA评分增加2分。使用SaO2而非SpO2的模型通常表现更佳。对于脉搏氧饱和度高估O2超过3%的患者，死亡率预测召回率显著下降，从0.63降至0.59，P<0.001。这反映了临床过程中，偏见的脉搏氧饱和度读数为医生提供了错误的氧气水平安心感。类似地，机器学习模型也出现了性能下降，脉搏氧饱和度偏差导致预测不良结局的假阴性率增加。
引用
@article{arxiv.2408.04396,
title = {Evaluating the Impact of Pulse Oximetry Bias in Machine Learning under Counterfactual Thinking},
author = {Inês Martins and João Matos and Tiago Gonçalves and Leo A. Celi and A. Ian Wong and Jaime S. Cardoso},
journal= {arXiv preprint arXiv:2408.04396},
year = {2024}
}
备注
10 pages; accepted at MICCAI's Third Workshop on Applications of Medical AI (2024)