深度学习分类器中重要性估计器在计算机断层扫描中的评估
摘要
深度学习在物体检测与图像分类中展现出卓越性能，为医学影像分析带来了巨大前景。要将深度学习的成功转化到医学影像领域，医生需要理解其底层过程，这就要求具备解释和说明神经网络预测的能力。深度神经网络的可解释性通常依赖于估计输入特征（如像素）相对于输出（如类别概率）的重要性。然而，目前已开发出多种重要性估计器（也称为显著图），尚不清楚哪些更适用于医学影像应用。在本工作中，我们利用三种不同的评估指标，研究了多个重要性估计器在解释卷积深度网络对计算机断层扫描（CT）图像分类时的表现。首先，以模型为中心的指真度（fidelity）衡量在扰动某些输入时模型准确率的下降。其次，通过受试者工作特征（ROC）曲线在像素层面上衡量重要性分数与专家定义的分割掩码之间的一致性。第三，我们通过 Dice 相似系数（DSC）衡量基于 XRAI 的图与分割掩码之间的区域重叠。总体而言，两个版本的 SmoothGrad 在指真度和 ROC 排名中居首，而 Integrated Gradients 和 SmoothGrad 在 DSC 评估中均表现优异。有趣的是，以模型为中心（指真度）和以人为中心（ROC 和 DSC）的评估之间存在显著分歧。分割图中嵌入的专家期望与直觉并不一定与模型得出预测的方式一致。理解这种可解释性上的差异将有助于在医学中利用深度学习的力量。
引用
@article{arxiv.2209.15398,
title = {Evaluation of importance estimators in deep learning classifiers for Computed Tomography},
author = {Lennart Brocki and Wistan Marchadour and Jonas Maison and Bogdan Badic and Panagiotis Papadimitroulas and Mathieu Hatt and Franck Vermet and Neo Christopher Chung},
journal= {arXiv preprint arXiv:2209.15398},
year = {2022}
}
备注
4th International Workshop on EXplainable and TRAnsparent AI and Multi-Agent Systems (EXTRAAMAS 2022) - International Conference on Autonomous Agents and Multi-Agent Systems (AAMAS)