医学图像分析的自可解释 AI：综述与新展望
计算机视觉与模式识别
2024-11-18 v2
摘要
随着对透明可靠模型需求的增加，尤其是在医疗图像分析等高风险决策领域， eXplainable Artificial Intelligence（XAI）的出现引发了关注。后置式 XAI 技术旨在训练后解释黑箱模型，因而引发对其忠实性的担忧。相比之下，Self-eXplainable AI（S-XAI）通过在深度学习模型的训练过程中内置可解释性，提供了具有竞争力的替代方案。这种方法使模型能够生成与其内部决策过程紧密一致的内在解释，增强了透明度，并支持 AI 系统在实际医疗应用中的可信度、鲁棒性和问责制。为促进医学图像分析领域 S-XAI 方法的发展，本综述从 various image 模式和临床应用中进行了全面回顾，涵盖超过 200 篇论文，主要从三个关键视角进行：1）通过整合可解释特征工程和知识图谱实现输入可解释性、2）通过注意力机制学习、概念机制学习和原型机制学习实现模型可解释性、3）通过提供文本解释和反事实解释实现输出可解释性。本文还概述了可解释性的理想特征和评估解释质量的方法，同时讨论了在医学图像分析中开发 S-XAI 的主要挑战和未来研究方向。
引用
@article{arxiv.2410.02331,
title = {Self-eXplainable AI for Medical Image Analysis: A Survey and New Outlooks},
author = {Junlin Hou and Sicen Liu and Yequan Bie and Hongmei Wang and Andong Tan and Luyang Luo and Hao Chen},
journal= {arXiv preprint arXiv:2410.02331},
year = {2024}
}