探究算法在 MAMA-MIA 数据集中的年龄和族群偏见
计算机视觉与模式识别
2025-11-03 v1 人工智能
摘要
深度学习模型旨在改进诊断工作流程，但在分类之外的公平性评估仍属未探索领域。未解决的分割偏见可能导致特定人群在护理质量上的差异，潜在通过临床决策点放大并通过迭代模型开发进一步放大。本文审计了自动分割标签在乳腺癌肿瘤分割数据集 MAMA-MIA 中的公平性。我们在年龄、族群和数据来源方面评估了自动分割质量。我们的分析揭示了对年轻患者的内在年龄相关偏见，即使控制了数据来源等混杂因素后仍持续存在。我们推测，这种偏见可能与生理因素有关，这是放射科医生和自动系统面临的已知挑战。最后，我们展示了如何通过聚合来自多个数据来源的数据影响区域性族群偏见，凸显了在细粒度层面调查数据的必要性。
关键词
引用
@article{arxiv.2510.27421,
title = {Who Does Your Algorithm Fail? Investigating Age and Ethnic Bias in the MAMA-MIA Dataset},
author = {Aditya Parikh and Sneha Das and Aasa Feragen},
journal= {arXiv preprint arXiv:2510.27421},
year = {2025}
}
备注
Medical Imaging Meets EurIPS (NeurIPS-endorsed workshop) - MedEurIPS