基准测试预训练对 MR 图像分类中解释性能的影响
计算机视觉与模式识别
2026-01-22 v2 人工智能
机器学习
摘要
卷积神经网络（CNNs）在医学预测任务中被频繁且成功地使用。它们常与迁移学习结合使用，从而在任务训练数据稀缺时提升性能。所得模型高度复杂，通常不能提供对其预测机制的任何洞察，这推动了“可解释”人工智能（XAI）领域的发展。然而，以往研究很少针对真实数据定量评估 XAI 方法的“解释性能”，且迁移学习及其对解释性能客观度量的影响尚未被研究。在此，我们提出一个基准数据集，可在真实的磁共振成像（MRI）分类任务中量化解释性能。我们利用该基准来理解迁移学习对解释质量的影响。实验结果表明，应用于同一底层模型的流行 XAI 方法在性能上差异巨大，即使仅考虑正确分类的样例也是如此。我们进一步观察到，解释性能强烈依赖于预训练所用任务以及预训练的 CNN 层数。在修正解释性能与分类性能之间的显著相关性后，这些结果仍然成立。
引用
@article{arxiv.2306.12150,
title = {Benchmarking the Influence of Pre-training on Explanation Performance in MR Image Classification},
author = {Marta Oliveira and Rick Wilming and Benedict Clark and Céline Budding and Fabian Eitel and Kerstin Ritter and Stefan Haufe},
journal= {arXiv preprint arXiv:2306.12150},
year = {2026}
}
备注
Under review