剖析偏见：使用切片发现方法解释医学图像分析中的性能差距

机器学习模型在医学图像分析中取得了很高的整体准确率。然而，特定患者群体上的性能差异对其临床实用性、安全性和公平性构成了挑战。这可能会影响已知的患者群体——例如基于性别、年龄或疾病亚型的群体——以及先前未知和未标记的群体。此外，这种观察到的性能差异的根本原因通常难以发现，阻碍了缓解措施。在本文中，为了解决这些问题，我们利用切片发现方法（SDM）来识别可解释的性能不佳数据子集，并针对观察到的性能差异的原因提出假设。我们引入了一种新颖的SDM，并将其应用于一个案例研究：从胸部X光片中分类气胸和肺不张。我们的研究证明了SDM在假设形成中的有效性，并解释了先前观察到的但在广泛使用的胸部X光片数据集和模型中男性和女性患者之间未得到解释的性能差异。我们的研究结果表明，在这两个分类任务中都存在捷径学习，分别通过胸管和心电图导线的存在。这些捷径特征在流行率上的性别差异似乎导致了观察到的分类性能差距，代表了捷径学习与模型公平性分析之间一个以前未被充分认识的相互作用。