DiffExplainer：通过反事实生成揭示黑箱模型
计算机视觉与模式识别
2024-06-28 v2
摘要
在医学影像领域，尤其是与早期疾病检测和预后相关的任务中，理解 AI 模型预测背后的推理过程对于评估其可靠性至关重要。传统的解释方法在识别医学图像分类中决定性特征方面面临挑战，尤其是当判别特征微弱或不易被察觉时。为此，我们提出一种能够生成反事实图像的智能体模型，这些图像在输入黑箱模型后会导致不同的决策。通过运用该智能体模型，我们可以揭示影响黑箱模型最终预测的关键图像模式。通过本方法，我们能够高效识别影响深层黑箱模型决策的特征。在严谨的医学预后任务中验证了本方法，展示了其有效性和潜力，旨在增强与现有解释方法相比，医学图像分类中深度学习模型的可靠性。代码将在 https://github.com/ayanglab/DiffExplainer 上公开。
引用
@article{arxiv.2406.15182,
title = {DiffExplainer: Unveiling Black Box Models Via Counterfactual Generation},
author = {Yingying Fang and Shuang Wu and Zihao Jin and Caiwen Xu and Shiyi Wang and Simon Walsh and Guang Yang},
journal= {arXiv preprint arXiv:2406.15182},
year = {2024}
}
备注
MICCAI 2024