基于修补的遮挡技术以提升组织病理学中可解释人工智能评估的效果
计算机视觉与模式识别
2024-09-04 v2
摘要
组织病理学图像分析对于准确的癌症诊断和治疗计划至关重要。尽管深度学习模型，特别是卷积神经网络，已在该领域取得进展，但其“黑箱”本质引发了可解释性和可信度方面的疑虑。可解释人工智能（XAI）技术旨在解决这些问题，但评估其有效性仍然具有挑战性。当前基于遮挡的XAI方法的一个重要问题是它们常常生成超分布（Out-of-Distribution, OoD）样本，导致评估不准确。本文引入基于修补的遮挡（IBO），一种新颖的遮挡策略，利用去噪扩散概率模型对组织病理学图像中的遮挡区域进行修补。通过用真实的、非癌症组织灌注癌症区域，IBO最小化了超分布伪影并保留了数据完整性。我们在CAMELYON16数据集上通过两个阶段进行评估：首先，通过学习感知图像块相似性（LPIPS）指标评估感知相似性，其次，通过ROC曲线下面积（AUC）分析量化其对模型预测的影响。我们的结果表明，IBO在感知保真度方面显著提升，LPIPS分数几乎比最佳现有遮挡策略提高了近两倍。此外，IBO将XAI性能预测的准确率从42%提高到71%。这些结果表明，IBO有潜力提供更可靠的XAI技术评估，受益于组织病理学及其他应用。本研究的源代码可在 https://github.com/a-fsh-r/IBO 查看。
引用
@article{arxiv.2408.16395,
title = {IBO: Inpainting-Based Occlusion to Enhance Explainable Artificial Intelligence Evaluation in Histopathology},
author = {Pardis Afshar and Sajjad Hashembeiki and Pouya Khani and Emad Fatemizadeh and Mohammad Hossein Rohban},
journal= {arXiv preprint arXiv:2408.16395},
year = {2024}
}
备注
19 pages, 6 figures