医学图像中基于概念的一致性解释及其在皮肤病变诊断中的应用

黑色素瘤的早期检测对于预防严重并发症和提高成功治疗的机会至关重要。现有的用于黑色素瘤皮肤病变诊断的深度学习方法是黑盒模型,因为它们忽略了模型预测背后的原理,损害了这些诊断方法的可信度和可接受性。提供基于概念的解释的尝试基于事后方法,这些方法依赖于额外的模型来推导解释。在本文中,我们提出了一种内在可解释的框架,通过引入硬注意力机制和一致性损失项来提高基于概念的模型的可解释性,以保证概念编码器产生的概念激活的视觉一致性,且不需要额外标注的监督。所提出的框架以人类可解释的概念及其各自对最终预测的贡献,以及概念在图像中所在位置的视觉解释来解释其决策。在皮肤图像数据集上的实验表明,我们的方法在皮肤病变分类上优于现有的黑盒和基于概念的模型。