基于 AI 引导的数据中心策略检测并缓解医疗数据集偏差
机器学习
2023-11-08 v1 人工智能
摘要
医疗领域诊断与预后算法的采用引发了对弱势个体群体偏见延续的担忧。用于检测和缓解偏见的深度学习方法主要围绕修改模型、优化策略和阈值校准展开，成效不一。在此，我们生成了一种以数据为中心、与模型无关、与任务无关的方法，通过考察不同群体在小样本量下被学习的难易程度关系（AEquity）来评估数据集偏差。我们随后对子群体间的 AEq 值进行系统分析，以识别和缓解医疗中两个已知案例的种族偏见表现——使用深度卷积神经网络的胸部 X 光诊断，以及使用多元逻辑回归的医疗利用预测。AEq 是一种新颖且广泛适用的指标，可通过诊断和补救医疗数据集中的偏差来推进公平。
引用
@article{arxiv.2311.03425,
title = {An AI-Guided Data Centric Strategy to Detect and Mitigate Biases in Healthcare Datasets},
author = {Faris F. Gulamali and Ashwin S. Sawant and Lora Liharska and Carol R. Horowitz and Lili Chan and Patricia H. Kovatch and Ira Hofer and Karandeep Singh and Lynne D. Richardson and Emmanuel Mensah and Alexander W Charney and David L. Reich and Jianying Hu and Girish N. Nadkarni},
journal= {arXiv preprint arXiv:2311.03425},
year = {2023}
}