面向心血管图像分类模型的基于领域的对抗性解释: MiMICRI 框架

大型医学影像数据集的公开可及性日益增长，推动了人工智能（AI）模型在心血管图像分类和分析方面的快速发展。与此同时，这些模型潜在的重大影响也激发了开发各种可解释 AI（XAI）方法的动力，这些方法旨在解释给定 certain 图像输入的模型预测。然而，这些方法许多未与领域专家合作开发，也未以医学专业知识或领域知识为背景对解释进行语境化。在本文中，我们提出一种新框架和 Python 库 MiMICRI，提供心血管图像分类模型的基于领域的对抗性解释。MiMICRI帮助用户交互式地选择和替换对应形态结构的医学影像片段。从生成的对抗性样本中，用户可以评估每个片段对模型预测的影响，并根据已知医学事实验证模型。我们用两个医学专家对该库进行评估。我们的评估表明，基于领域的 XAI 方法可以增强模型解释的可解释性，帮助专家以相关领域知识的术语来推理模型。然而，也引发了对生成对抗性样本临床可行性的顾虑。我们在讨论 MiMICRI 框架的可扩展性和可信度，以及我们发现的对医疗保健情境下基于领域的 XAI 方法开发模型可解释性的影响。