利用实例相似性与概念相关性构建图像分类的简单且稳健的对比解释
计算机视觉与模式识别
2025-07-01 v1
摘要
理解分类模型为输入实例偏好选择一个类别的原因是对比解释的挑战。本工作通过利用细化深度学习模型中用于实例相似性和人类可理解概念相关性，实现了图像分类的概念基对比解释。我们的方法提取概念及其相关性得分，计算相似实例的对比，并基于解释复杂度评估结果对比解释。对不同图像增强的鲁棒性进行测试。本研究提出了两个问题：（1）解释复杂度是否在不同相关性范围内存在变化；（2）在旋转和噪声等图像增强情况下，解释复杂度是否保持一致。结果表明，在我们的实验中，较高的概念相关性导致更简短、更不复杂的解释，而较低的相关性则导致更长、更扩散的解释。此外，解释显示出不同程度的鲁棒性。这些发现的讨论为构建更可解释和更稳健的AI系统提供了见解。
引用
@article{arxiv.2506.23975,
title = {Toward Simple and Robust Contrastive Explanations for Image Classification by Leveraging Instance Similarity and Concept Relevance},
author = {Yuliia Kaidashova and Bettina Finzel and Ute Schmid},
journal= {arXiv preprint arXiv:2506.23975},
year = {2025}
}
备注
17 pages, 6 figures, KI2025 - 48th German Conference on Artificial Intelligence