概念基解释与类别对比
计算机视觉与模式识别
2025-06-03 v2
摘要
解释深度神经网络具有挑战性，这些网络具有巨大的规模和非线性特性。本文引入一种基于概念的解释方法，用于解释单个类别的预测，以及对比任何两个类别的解释，即解释模型为何预测一个类别而非另一个类别。我们在多个公开可用的分类模型上进行测试，这些模型在 ImageNet1K 上进行训练。我们进行了定性和定量测试。例如，对于来自 pytorch model zoo 的 ResNet50 模型，我们可以使用“模型预测类别'A'的解释”自动选择四个数据集裁剪区域，这些区域模型不预测类别'A'。随后，模型对新组合图像再次预测类别'A'的案例占 91.1%（适用于 1000 个类别中的 911 个类别）。包括 .ipynb 示例的源码已 disponible 在 github：https://github.com/rherdt185/concept-based-explanations-and-class-contrasting
引用
@article{arxiv.2502.03422,
title = {Concept Based Explanations and Class Contrasting},
author = {Rudolf Herdt and Daniel Otero Baguer},
journal= {arXiv preprint arXiv:2502.03422},
year = {2025}
}