概念注意力白化用于可解释的皮肤病变诊断

深度学习模型的黑箱性质引发了对其在真实临床应用中成功部署的可解释性的担忧。为了解决这些问题，可解释人工智能（XAI）旨在提供清晰且易于理解的决策过程解释。在医学领域，概念如病变或异常的属性是得出诊断结果的关键证据。现有的基于概念的模型主要依赖于独立出现的概念，并需要细粒度的概念标注（如边界框）。然而，医学图像通常包含多个概念，且细粒度的概念标注难以获取。本文旨在通过将潜在空间的轴与已知感兴趣概念对齐来解释深度神经网络中的表示。我们提出了一种新颖的概念注意力白化（CAW）框架，用于可解释的皮肤病变诊断。CAW由一个疾病诊断分支和一个概念对齐分支组成。在前一个分支中，我们训练一个插入CAW层的卷积神经网络（CNN）来执行皮肤病变诊断。CAW层通过正交矩阵去相关特征并将图像特征对齐到概念含义。在后一个分支中，正交矩阵在概念注意力掩码的指导下计算。我们特别引入了一个弱监督的概念掩码生成器，仅利用粗粒度概念标签来过滤与特定概念相关的局部区域，从而改进正交矩阵的优化。在两个公开的皮肤病变诊断数据集上的大量实验表明，CAW不仅增强了可解释性，还保持了最先进的诊断性能。