可解释的网络可视化：一种用于CNN图像分类事后可解释性的人机协同方法
机器学习
2024-07-30 v1 计算机视觉与模式识别
摘要
图像分类中的透明度和可解释性对于建立对机器学习模型的信任以及检测偏差和错误至关重要。最先进的可解释性方法生成显著性图以显示特定类别被识别的位置，但没有提供模型决策过程的详细解释。为满足这一需求，我们引入了一种事后方法，解释卷积神经网络（CNN）的整个特征提取过程。这些解释包括模型从输入中提取特征的逐层表示。这些特征表示为通过聚类和合并相似特征图生成的显著性图，我们通过将Grad-CAM推广到所提出的方法，为这些显著性图关联一个权重。为进一步增强这些解释，我们包含了一组通过游戏化众包活动收集并使用NLP技术和Sentence-BERT处理的文本标签。最后，我们展示了一种通过聚合多张图像的标签来生成全局解释的方法。
引用
@article{arxiv.2405.03301,
title = {Interpretable Network Visualizations: A Human-in-the-Loop Approach for Post-hoc Explainability of CNN-based Image Classification},
author = {Matteo Bianchi and Antonio De Santis and Andrea Tocchetti and Marco Brambilla},
journal= {arXiv preprint arXiv:2405.03301},
year = {2024}
}
备注
International Joint Conference on Artificial Intelligence 2024 (to be published)