基于 XAI 的状态空间脑血管分割模型泛化失效诊断：RSNA 与 TopCoW 数据集间领域偏移的案例研究
计算机视觉与模式识别
2025-12-17 v1
摘要
深度学习模型在医学影像中的临床部署受到领域偏移的严重阻碍。这种高性能模型在外部数据集上出现灾难性失效的挑战，是可信 AI 的关键障碍。要解决这一问题，需要超越简单的性能指标以获得更深入的理解，这使得可解释 AI (XAI) 成为医学图像分析中不可或缺的诊断工具。我们提出了一种严谨的两阶段方法，用于诊断最先进的状态空间模型 (SSM，具体为 UMamba) 应用于脑血管分割时的泛化失效。我们首先在源数据集 (RSNA CTA Aneurysm) 和目标数据集 (TopCoW Circle of Willis CT) 之间建立了可量化的领域差距，并注意到 Z 分辨率和背景噪声存在显著差异。随后，模型的 Dice 系数从源数据集的 0.8604 骤降至目标数据集的 0.2902。在作为我们核心贡献的第二阶段，我们利用 Seg-XRes-CAM 诊断了此次失效的原因。我们通过测量模型的注意力图与 Ground Truth 分割之间的重叠度，以及其注意力图与自身预测掩码之间的重叠度，量化了模型的关注点。我们的分析证明，模型未能泛化是因为其注意力机制在目标域中抛弃了真实的解剖特征。定量指标证实，模型的关注点偏离了 Ground Truth 血管（在 0.3 阈值下 IoU 约为 0.101），而仍与其自身错误的预测保持一致（在 0.3 阈值下 IoU 约为 0.282）。这表明模型学习到了虚假相关性，证实了 XAI 是识别新兴架构中数据集偏差的强大诊断工具。
引用
@article{arxiv.2512.13977,
title = {XAI-Driven Diagnosis of Generalization Failure in State-Space Cerebrovascular Segmentation Models: A Case Study on Domain Shift Between RSNA and TopCoW Datasets},
author = {Youssef Abuzeid and Shimaa El-Bana and Ahmad Al-Kabbany},
journal= {arXiv preprint arXiv:2512.13977},
year = {2025}
}