识别并缓解大流行病患者管理算法中的偏差
机器学习
2021-11-02 v1 计算机与社会
摘要
已开发出众多 COVID-19 临床决策支持系统。然而，由于包括算法偏差在内的方法学缺陷，这些系统中的许多并不具备有效性。方法：利用由纽约市四家医院组成的真实世界数据集，创建逻辑回归模型以预测 COVID-19 死亡率、呼吸机状态和住院状态，并分析针对种族、性别和年龄的偏差。在训练过程中应用简单的阈值调整以建立更公平的模型。结果：与朴素训练的模型相比，校准后的模型在偏差试验数量上减少了 57%，而由受试者工作特征曲线下面积（AUC）衡量的预测性能保持不变。校准后，预测模型的平均灵敏度从 0.527 提升至 0.955。结论：我们证明，在真实世界数据上朴素地训练和部署机器学习模型用于 COVID-19 预测分析存在很高的偏差风险。在模型训练期间实施的简单调整或校准可在后续部署中带来显著且持续的公平性提升。
引用
@article{arxiv.2111.00340,
title = {Identifying and mitigating bias in algorithms used to manage patients in a pandemic},
author = {Yifan Li and Garrett Yoon and Mustafa Nasir-Moin and David Rosenberg and Sean Neifert and Douglas Kondziolka and Eric Karl Oermann},
journal= {arXiv preprint arXiv:2111.00340},
year = {2021}
}
备注
4 pages, 1 tables