3D 分段模型的聚合归因用于解释性分析

3D 分段模型的分析，尤其是在医学成像语境下，往往仅限于分段性能指标，而忽视了解释性和偏差的至关重要方面。目前，由于输入图像的高维数乘以分段类别数量的不断增长，有效地用敏感图解释这些模型具有挑战。为此，我们引入 Agg^2Exp，一种用于聚合分段模型预测的细粒度体素归因的方法。与主要关注局部特征归因的经典解释方法不同，Agg^2Exp 能够更全面地了解预测分段在 3D 图像中的重要性。我们的基准实验表明，梯度基于的体素归因比扰动基于的解释更忠实于模型的预测。作为具体用例，我们将 Agg^2Exp 应用于在 TotalSegmentator v2 数据集上训练的 Swin UNEt TRansformer 模型，用于对计算断层扫描医学图像中的解剖结构进行分段。Agg^2Exp 促进了超越其预测性能的大型分段模型的解释性分析。源代码已公开可用，地址为 https://github.com/mi2datalab/agg2exp。