平滑解释黑盒——一种反事实方法

我们提出了一种黑盒反事实解释器，旨在解释用于医学应用的影像分类模型。评估特征重要性的经典方法（如显著图）并不能解释重要解剖区域中的影像特征“如何”与分类决策相关。我们的框架通过逐步“夸大”查询图像中目标类别的语义效应来解释目标类别的决策。我们采用生成对抗网络（GAN）对查询图像生成一组渐进的扰动，使得分类决策从其原始类别变为其否定类别。我们使用框架中的反事实解释来审计一个在具有多标签的胸部 X 光数据集上训练的分类器。我们提出了临床相关的量化指标，如心胸比和健康肋膈角评分，以评估我们的解释。我们与诊断放射科住院医师进行了以人为基础的实验，通过比较不同风格的解释（无解释、显著图、cycleGAN 解释和我们的反事实解释）来评估解释的不同方面：（1）可理解性，（2）分类器决策合理性，（3）视觉质量，（d）身份保持，以及（5）解释对用户的整体帮助性。我们的结果表明，与无解释基线相比，我们的反事实解释是唯一显著改善用户对分类器决策理解的解释方法。我们的指标建立了医学图像中模型解释方法评估的基准。我们的解释揭示分类器在其诊断决策中依赖于临床相关的放射学特征，从而使其决策过程对最终用户更加透明。