医学影像中的 AI 对齐：通过反事实分析揭示隐藏偏见
机器学习
2025-04-29 v1 图像与视频处理
机器学习
摘要
医学影像机器学习（ML）系统已展现出卓越的诊断能力，但其对偏见的敏感性构成重大风险，因为偏见可能严重影响泛化性能。本文引入一种新型统计框架来评估医学影像 ML 模型对敏感属性（如人口统计学特征）的依赖性。我们的方法利用反事实不变性概念，衡量模型预测在对敏感属性进行假设性改变后是否保持不变。我们提出了一种实用算法，将条件潜在扩散模型与统计假设检验相结合，用于在不直接获取反事实数据的情况下识别并量化此类偏见。通过在合成数据集和大规模真实世界医学影像数据集（包括\textsc{cheXpert} 和 MIMIC-CXR）上的实验，我们证明了该方法与反事实公平性原则高度吻合，并优于标准基线方法。这一工作为确保 ML 诊断系统在不同人口统计学群体间具有良好泛化性提供了稳健工具，为医疗保健领域的 AI 安全提供了关键步骤。代码：https://github.com/Neferpitou3871/AI-Alignment-Medical-Imaging
引用
@article{arxiv.2504.19621,
title = {AI Alignment in Medical Imaging: Unveiling Hidden Biases Through Counterfactual Analysis},
author = {Haroui Ma and Francesco Quinzan and Theresa Willem and Stefan Bauer},
journal= {arXiv preprint arXiv:2504.19621},
year = {2025}
}