以内在可解释性评估事后可解释性
计算机视觉与模式识别
2023-05-05 v1 人工智能
摘要
尽管卷积神经网络在某些医学任务上已达到人类水平性能，其临床应用因缺乏可解释性而受阻。为此提出了两类主要可解释性策略：事后方法与内在方法。尽管已有若干事后方法解释深度学习模型，各方法提供的解释差异显著，且因缺乏真值难以验证。为应对此挑战，我们将内在可解释的 ProtoPNet 适配至组织病理学成像语境，并比较其生成的归因图与事后方法生成的显著图。为评估显著图方法与归因图的相似性，我们改编了显著图模型文献中的 10 个显著性度量，并使用乳腺癌转移检测数据集 PatchCamelyon（含 327680 张前哨淋巴结切片组织病理学图像块）验证所提方法。总体而言，SmoothGrad 与 Occlusion 被发现与 ProtoPNet 有统计上更大的重叠，而 Deconvolution 与 Lime 重叠最少。
引用
@article{arxiv.2305.03002,
title = {Evaluating Post-hoc Interpretability with Intrinsic Interpretability},
author = {José Pereira Amorim and Pedro Henriques Abreu and João Santos and Henning Müller},
journal= {arXiv preprint arXiv:2305.03002},
year = {2023}
}