预测可代表性：揭示AI基于皮肤癌检测中的种族偏见
机器学习
2025-07-22 v1 统计计算
机器学习
摘要
人工智能（AI）系统日益影响医疗决策，但关于算法偏见和不公平结果的担忧仍然存在，尤其是针对历史上受边缘化人群。本文引入预测可代表性（Predictive Representativity, PR）概念，提出一种以公平性审计框架，将关注点从数据集组成转向结果层面的公平性。通过皮肤科案例研究，我们评估了基于广泛使用的HAM10000数据集和来自哥伦比亚的独立临床数据集（BOSQUE Test set）训练的AI皮肤癌分类器。我们的分析揭示了根据皮肤光照类型（skin phototype）进行的性能差异，分类器在 darker 皮肤者身上表现一致不佳，尽管源数据中样本比例恰当。我们认为，可代表性必须被理解为数据集的静态特征，而非模型预测的动态、情境依赖的属性。PR通过量化模型在亚群体和部署情境中如何可靠地实现公平性来实现这一转变。我们进一步提出了外部可传输性准则（External Transportability Criterion），正式化了公平性泛化的阈值。我们的发现凸显了后续公平性审计、数据集文档透明度以及包容性模型验证管道的伦理必要性。这项工作提供了诊断AI系统结构性不公平的可扩展工具，为公平性讨论、可解释性和数据正义，推动对数据驱动医疗保健公平性的关键性再评估。
引用
@article{arxiv.2507.14176,
title = {Predictive Representativity: Uncovering Racial Bias in AI-based Skin Cancer Detection},
author = {Andrés Morales-Forero and Lili J. Rueda and Ronald Herrera and Samuel Bassetto and Eric Coatanea},
journal= {arXiv preprint arXiv:2507.14176},
year = {2025}
}