多模态磁共振成像中脑肿瘤分割的基于影响力的可解释性

近年来，人工智能已成为医疗应用中的基础工具。尽管发展迅速，深度神经网络仍然是难以解释的黑盒，这对其在临床实践中的应用构成了主要限制。我们专注于医学图像分割任务，迄今为止提出的大多数可解释性方法均以输入显著性图的形式提供视觉解释。本工作的目的是扩展、实现并测试一种基于影响力的可解释性算法 TracIn，该算法最初是为分类任务提出的，我们将其应用于一个具有挑战性的临床问题，即多模态磁共振成像中脑肿瘤的多类分割。我们通过将网络潜在表示的相似性与 TracIn 输出相关联，验证了所提算法的忠实度。我们进一步测试了该算法提供局部和全局解释的能力，并提出它可以作为一种工具，用于选择决策过程中使用的最相关特征。该方法可推广至所有类别互斥的语义分割任务，这也是此类情况下的标准框架。