医学 AI 数据集偏差检测：通用且模态无关的审计框架
机器学习
2025-06-05 v2 人工智能
计算机视觉与模式识别
摘要
人工智能（AI）目前已 firmly 位于证据医学的中心。尽管许多成功案例推动了 AI 在医疗保健领域的崛起，但也有大量报告指出 AI 在实际部署中存在诸多局限和意外行为。这些局限的主要原因是 AI 依赖基于关联的学习，where non-representative machine learning 数据集可能在训练期放大潜在偏差，或在测试期隐藏其存在。为释放能够预见和防止此类 AI 偏差问题的新工具，我们提出 G-AUDIT。Generalized Attribute Utility and Detectability-Induced bias Testing（G-AUDIT）是一种模态无关的数据集审计框架，允许生成关于训练或测试数据中偏差来源的针对性假设。我们的 метод 检查 task-level 注释（常称为“标签”）与数据属性（包括患者属性如年龄、性别）以及环境/获取特征（如临床站点、影像协议）之间的关系。G-AUDIT量化了观察到的数据属性在shortcut learning中所构成的风险，或在测试数据中，可能隐藏基于虚假关联的预测。我们通过分析三种不同模态和机器学习任务的大规模医学数据集来展示我们方法的广泛适用性：皮肤瘤分类（图像）、电子健康记录（EHR）中的污名化语言分类，以及 ICU 表格数据的死亡率预测。在每种情况下，G-AUDIT成功识别出传统定性方法常忽视的细微偏差，凸显了其在暴露数据层风险、支持下游可靠 AI 系统开发方面的实用价值。
引用
@article{arxiv.2503.09969,
title = {Detecting Dataset Bias in Medical AI: A Generalized and Modality-Agnostic Auditing Framework},
author = {Nathan Drenkow and Mitchell Pavlak and Keith Harrigian and Ayah Zirikly and Adarsh Subbaswamy and Mohammad Mehdi Farhangi and Nicholas Petrick and Mathias Unberath},
journal= {arXiv preprint arXiv:2503.09969},
year = {2025}
}