基于增强型 Slot 注意力分类器的可解释图像识别
计算机视觉与模式识别
2024-07-09 v1
摘要
理解深度学习模型行为的 imperative 至关重要。在这一领域，可解释人工智能 (XAI) 已成为近年来备受关注的热门方向。尽管如此，大多数现有方法主要依赖梯度或输入扰动，往往无法在模型的决策过程中直接嵌入解释。为弥合这一差距，我们引入了 ESCOUTER，一种基于修改后 slot attention 机制的可视化可解释分类器。ESCOUTER 不仅提供高分类精度，还能提供对其决策背后推理过程的更透明见解。它与先前方法的区别在于两个显著方面：(a) ESCOUTER 将解释整合到每个类别的最终置信度分数中，提供更直观的解释；(b) 它为所有类别提供正向或负向解释，阐明“一幅图像属于某个类别的原因”或“它不属于该类别的原因”。为 ESCOUTER 设计了一个专用的新损失函数，以微调模型行为，使其能够在正向和负向解释之间切换。此外，还设计了一个面积损失，以调整解释区域的大小，以获得更精确的解释。我们的方法在各种数据集和 XAI 指标上进行了严格测试，超越了以往最先进的方法，确立了其作为解释工具的有效性。
引用
@article{arxiv.2407.05616,
title = {Explainable Image Recognition via Enhanced Slot-attention Based Classifier},
author = {Bowen Wang and Liangzhi Li and Jiahao Zhang and Yuta Nakashima and Hajime Nagahara},
journal= {arXiv preprint arXiv:2407.05616},
year = {2024}
}
备注
16 pages, 12 figures