揭示医学图像分析中的校准偏差
图像与视频处理
2023-05-10 v1 计算机视觉与模式识别
机器学习
摘要
近年来，用于自动化医学图像分析的人工智能（AI）系统的发展获得了巨大动力。与此同时，大量研究表明AI系统可在多种应用场景中系统性且不公平地歧视某些群体。这两个事实催生了该领域算法公平性研究的兴起。迄今大多数医疗算法公平性研究聚焦于以AUC与准确率等经典判别指标评估偏差。然而，模型校准方面的潜在偏差近期才开始被评估。在处理临床决策支持系统时这一点尤为重要，因为预测不确定性是医疗专业人员优化评估与整合多源信息的关键。本工作中，我们研究用于从皮肤病变图像自动检测恶性皮肤病的模型中的判别与校准偏差。重要的是，我们展示了若干常用校准指标如何相对于样本量存在系统性偏差，以及若不加考虑将如何导致错误的公平性分析。这对于公平性研究尤为相关，其中数据不平衡导致人口子群体间样本量差异巨大，若不考虑可作为混杂因素。
引用
@article{arxiv.2305.05101,
title = {Towards unraveling calibration biases in medical image analysis},
author = {María Agustina Ricci Lara and Candelaria Mosquera and Enzo Ferrante and Rodrigo Echeveste},
journal= {arXiv preprint arXiv:2305.05101},
year = {2023}
}
备注
9 pages, 3 figures, 2 supplementary figures