TorchEsegeta：基于图像的深度学习模型可解释性与可说明性框架
计算机视觉与模式识别
2022-02-08 v2 人工智能
摘要
临床医生通常对在实践中应用自动图像处理方法，尤其是基于深度学习的方法，持怀疑态度。一个主要原因是这些方法的黑盒性质以及缺乏对所自动得出决策的洞察这一固有问题。为了增加对这些方法的信任，本文提出了一些方法，通过描绘对算法决策影响最大的解剖区域，来帮助解释和说明深度学习算法的结果。此外，本研究提出了一个统一的框架 TorchEsegeta，用于应用各种深度学习模型的可解释性与可说明性技术，并为临床医生生成视觉解释和说明以佐证其临床发现。此外，这将有助于对这些方法建立信心。该框架构建于现有的主要针对分类模型的可解释性与可说明性技术之上，并将其扩展到分割任务。此外，这些方法已被适配到用于体素分析的 3D 模型。所提框架提供了使用不忠实度和敏感度指标定量比较视觉解释的方法。数据科学家可使用该框架对其模型进行事后解释和说明，开发更具可说明性的工具，并向临床医生展示发现以增强其对这类模型的信任。所提框架基于在人脑 Time-of-fight (TOF) 磁共振血管造影 (MRA) 图像上训练的血管分割模型的使用场景进行了评估。给出了不同模型和可解释性方法的比较研究的定量与定性结果。此外，本文广泛综述了若干现有的可解释性与可说明性方法。
引用
@article{arxiv.2110.08429,
title = {TorchEsegeta: Framework for Interpretability and Explainability of Image-based Deep Learning Models},
author = {Soumick Chatterjee and Arnab Das and Chirag Mandal and Budhaditya Mukhopadhyay and Manish Vipinraj and Aniruddh Shukla and Rajatha Nagaraja Rao and Chompunuch Sarasaen and Oliver Speck and Andreas Nürnberger},
journal= {arXiv preprint arXiv:2110.08429},
year = {2022}
}