通过掩蔽输入梯度揭示痴呆检测：一种用于模型可解释性和精确度的 JSM 方法
计算机视觉与模式识别
2024-02-27 v1 机器学习
摘要
深度学习和人工智能的演进显著重塑了技术格局。然而，它们在医学等关键领域的有效应用不仅需要卓越的性能，还需要可信度。虽然可解释性起着至关重要的作用，但现有的可解释人工智能（XAI）方法往往无法揭示“聪明汉斯”行为，即模型利用数据中的虚假相关性或偏差做出（不可泛化的）正确预测。同样，当前的事后 XAI 方法容易生成不合理的反事实示例。在本文中，我们通过一种创新的模型调试方法来处理 XAI，该方法通过雅可比显著性图（JSM）实现。为了将问题置于具体语境中，我们以阿尔茨海默病（AD）诊断作为用例，这是由其对人类生活的重大影响及其早期检测的艰巨挑战所驱动的，后者源于其进展的复杂性。我们引入了一种可解释的多模态模型，用于 AD 分类及其多阶段进展， Incorporating JSM 作为一种与模态无关的工具，提供对指示脑部异常的体积变化的洞察。包括消融研究在内的广泛评估证明了使用 JSM 进行模型调试和解释的有效性，同时也显著提高了模型精度。
引用
@article{arxiv.2402.16008,
title = {Unmasking Dementia Detection by Masking Input Gradients: A JSM Approach to Model Interpretability and Precision},
author = {Yasmine Mustafa and Tie Luo},
journal= {arXiv preprint arXiv:2402.16008},
year = {2024}
}
备注
28th Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD), May 2024, Taiwan