隐形属性，显露偏见：探索MRI中基于人口统计的捷径学习
计算机视觉与模式识别
2025-09-12 v1 人工智能
摘要
磁共振成像(MRI)是脑成像的黄金标准。深度学习(DL)算法被提出用于辅助诊断如阿尔茨海默病(AD)等疾病。然而，DL算法可能受捷径学习影响，即使用与输出标签无直接关系的伪影特征进行预测。当这些特征与受保护属性相关时，可能导致对受保护群体(如种族和性别)的性能偏见。在本工作中，我们探讨DL基于MRI的AD诊断中捷径学习和人口统计偏见的潜在问题。我们首先调查DL算法是否能从3D脑MRI扫描中识别种族或性别，以建立是否存在或不存在种族和性别分布性偏移。接着，我们调查训练集因种族或性别不平衡是否会导致模型性能下降，以示捷径学习和偏见。最后，我们对不同脑区的特征归因进行定性和定量分析，针对受保护属性和AD分类任务。通过这些实验，并使用多个数据集和DL模型(ResNet和SwinTransformer)，我们证明了DL基于MRI的AD分类中存在种族和性别基于的捷径学习和偏见。我们的工作为开发更公平的脑MRI诊断工具奠定了基础。代码已提供于https://github.com/acharaakshit/ShortMR。
引用
@article{arxiv.2509.09558,
title = {Invisible Attributes, Visible Biases: Exploring Demographic Shortcuts in MRI-based Alzheimer's Disease Classification},
author = {Akshit Achara and Esther Puyol Anton and Alexander Hammers and Andrew P. King},
journal= {arXiv preprint arXiv:2509.09558},
year = {2025}
}
备注
FAIMI @ MICCAI 2025