论述数字病理学注意力图的可解释性特征
图像与视频处理
2024-07-03 v1 计算机视觉与模式识别
摘要
解释机器学习模型决策在高风险应用领域如医疗保健领域至关重要。在数字病理学中，大规模全切片图像（WSI）被分解为较小的切片块，切片块派生的特征被处理注意力机制的多实例学习（ABMIL）模型用于预测WSI级别的标签。这些网络生成切片级别的注意力权重，可用于可视化注意力图以实现可解释性。然而，缺乏对这些图进行标准化评估的框架，质疑了其可靠性以及检测误导模型的伪相关性的能力。我们在此提出一个评估框架，以评估注意力网络在数字病理学中注意力聚焦于相关特征的能力，通过创建人工模型干扰因素并使用专用可解释性指标。在带有切片修改且与WSI标签相关的特征数据上训练和评估模型，从而分析模型对人工干扰因素的灵敏度以及注意力图识别这些干扰因素的准确性。通过合成切片修改或基于其特定图像特征的切片消失来引入干扰因素，后者用于评估更临床相关的场景。我们还分析了在切片和WSI水平上干扰因素数量的变化对模型的影响。我们的结果表明，ABMIL模型在我们框架内表现如预期。虽然注意力图通常会突出显示相关区域，但其鲁棒性受到干扰因素类型和数量的影响。我们的 versatile 框架可用于各种方法的评估以及探索驱动模型预测的图像特征，这有助于发现生物标志物。
引用
@article{arxiv.2407.02484,
title = {Characterizing the Interpretability of Attention Maps in Digital Pathology},
author = {Tomé Albuquerque and Anil Yüce and Markus D. Herrmann and Alvaro Gomariz},
journal= {arXiv preprint arXiv:2407.02484},
year = {2024}
}