图像分类器的多种不同黑盒解释
计算机视觉与模式识别
2025-05-28 v4 人工智能
摘要
现有的图像分类器解释工具通常仅对图像的分类给出一个单一解释。然而，对于许多图像，图像分类器可接受不止一种关于图像标签的解释。这些解释有助于分析分类器的决策过程并检测错误。因此，将解释数量限制为仅一个严重限制了对于分类器行为的洞察。在本文中，我们描述了一种算法和工具 MultEX，用于计算给定图像作为黑盒图像分类器输出的多种解释。我们的算法采用基于实际因果性的原则性方法。我们分析了其理论复杂度，并在三种不同模型和三种不同数据集上将 MultEX 与最先进技术进行了评估。我们发现 MultEX 能找到更多解释，且这些解释质量更高。
引用
@article{arxiv.2309.14309,
title = {Multiple Different Black Box Explanations for Image Classifiers},
author = {Hana Chockler and David A. Kelly and Daniel Kroening},
journal= {arXiv preprint arXiv:2309.14309},
year = {2025}
}