原型基准可解释乳腺癌预测模型：分析与挑战

深度学习模型在医疗领域取得了高性能，但由于其黑箱本质，阻碍了在临床实践中的应用。自解释模型，如原型基准模型，因其内在可解释性而尤其有益。然而，如果所学习的原型质量较低，则原型基准模型就等同于黑箱模型。获得高质量原型是实现真正可解释模型的前提条件。本文提出了一种原型评估框架（PEF-C），用于基于领域知识定量评估原型质量。我们展示了在乳腺癌预测中应用 PEF-C的用途。现有工作在乳腺癌预测中使用原型模型的 mammography 方法主要关注提高原型模型的分类性能相对于黑箱模型，并通过轶事证据评估原型质量。我们首次超越轶事证据，系统性地使用 PEF-C 评估乳腺癌原型的质量。具体而言，我们对 ProtoPNet、BRAIxProtoPNet++ 和 PIP-Net 三种最先进的原型模型在乳腺癌预测中应用于 mammography 图像，并针对 i) 分类性能和 ii) 原型质量，在三个公开数据集上进行评估。我们的结果表明，原型模型在分类性能方面与黑箱模型相当，且在检测 ROI 方面得分更高。然而，原型质量尚不足够，主要体现在相关性、纯净度和学习多样化原型方面。我们呼吁 XAI 社区系统性地评估原型质量，以检查其在高风险决策中的真实可用性，并进一步改进此类模型。