基于严重程度的LOGAN用于健康机器学习中的算法公平性审计
机器学习
2022-11-17 v1 人工智能
计算与语言
摘要
审计基于机器学习（ML）的医疗工具中的偏差对于防止患者伤害至关重要，尤其是在那些面临严重健康不平等的群体中。用于衡量群体间ML公平性差距的通用框架正日益可用。然而，健康机器学习（ML4H）审计原则要求一种情境化、以患者为中心的模型评估方法。因此，ML审计工具必须（1）更好地与ML4H审计原则对齐，且（2）能够揭示和刻画最易受伤害影响的群体。为弥补这一差距，我们提议用SLOGAN（基于患者严重程度的局部群体偏差检测）补充ML4H审计框架，这是一种用于捕捉临床预测任务中局部偏差的自动化工具。SLOGAN改编自现有工具LOGAN（局部群体偏差检测），通过将群体偏差检测置于患者疾病严重程度和既往病史的情境中进行。我们在MIMIC-III数据集中考察并比较了SLOGAN与LOGAN及其他聚类技术跨患者子组的偏差检测能力。平均而言，SLOGAN在超过75%的患者群体中识别出的公平性差异大于LOGAN，同时保持了聚类质量。此外，在一项糖尿病案例研究中，健康差异文献证实了SLOGAN所识别的最有偏差聚类的刻画。我们的结果有助于关于机器学习偏差如何延续现有医疗不平等的更广泛讨论。
引用
@article{arxiv.2211.08742,
title = {Auditing Algorithmic Fairness in Machine Learning for Health with Severity-Based LOGAN},
author = {Anaelia Ovalle and Sunipa Dev and Jieyu Zhao and Majid Sarrafzadeh and Kai-Wei Chang},
journal= {arXiv preprint arXiv:2211.08742},
year = {2022}
}
备注
v1