面向公平性的多出口框架在皮肤疾病诊断中的公平性研究

公平性在医学图像识别中已变得愈发关键。然而，若不缓解偏差，部署不公平的医学 AI 系统可能损害弱势群体的利益。在本文中，我们观察到：虽然从神经网络深层提取的特征通常具有更高的准确率，但随着从更深层提取特征，公平性状况会恶化。这一现象促使我们拓展多出口框架的概念。与现有主要聚焦于准确率的工作不同，我们的多出口框架以公平性为导向；内部分类器被训练得更准确且更公平，并具有高度可扩展性以应用于大多数现有的公平性感知框架。在推理过程中，任何来自内部分类器且具有高置信度的样本都允许提前退出。实验结果表明，所提出的框架在两个皮肤疾病数据集上相比最先进水平改善了公平性状况。