医学图像分析中深度学习不确定性估计的公平性评估
计算机视觉与模式识别
2023-03-07 v1 计算机与社会
机器学习
摘要
尽管深度学习（DL）模型在许多医学图像分析任务中表现出巨大成功，但将所得模型部署到真实临床环境需要：（1）其在不同子群体间表现出鲁棒性与公平性，且（2）DL 模型预测的可信度以不确定性的形式被准确表达。遗憾的是，近期研究确实表明在医学图像分析背景下 DL 模型在人口统计学子组（如种族、性别、年龄）间存在显著偏差，表明模型缺乏公平性。尽管 ML 文献中已提出若干方法来缓解 DL 模型中的公平性缺失，但它们完全聚焦于组间的绝对性能，而未考虑其对不确定性估计的影响。本工作中，我们首次探索流行的公平性模型在医学图像分析中克服子组偏差的效果（就最终性能而言）及其对不确定性量化的影响。我们在三个不同的临床相关任务上进行了大量实验：（i）皮肤病变分类，（ii）脑肿瘤分割，以及（iii）阿尔茨海默病临床评分回归。我们的结果表明，流行的 ML 方法（如数据平衡与分布鲁棒优化）在部分任务的模型性能方面成功缓解了公平性问题。然而，这可能以伴随模型预测的较差不确定性估计为代价。若要在医学图像分析中采用公平性模型，必须缓解这一权衡。
引用
@article{arxiv.2303.03242,
title = {Evaluating the Fairness of Deep Learning Uncertainty Estimates in Medical Image Analysis},
author = {Raghav Mehta and Changjian Shui and Tal Arbel},
journal= {arXiv preprint arXiv:2303.03242},
year = {2023}
}
备注
Paper accepted at MIDL 2023