图像分类的两阶段整体与对比解释
计算机视觉与模式识别
2023-06-13 v1
摘要
解释深度神经网络分类器输出的需求现已被广泛认可。先前方法通常解释输出中的单个类别，我们主张解释整个输出，即多个类别上的概率分布。整体输出解释可帮助人类用户全面理解模型行为，而非仅其一个方面。它也能提供一个自然框架，用以检视区分竞争类别所用的证据，从而获得对比性解释。本文提出一种用于图像分类的对比式整体输出解释（CWOX）方法，并通过量化指标与人体受试者研究对其进行评估。CWOX 的源代码见于 https://github.com/vaynexie/CWOX。
引用
@article{arxiv.2306.06339,
title = {Two-Stage Holistic and Contrastive Explanation of Image Classification},
author = {Weiyan Xie and Xiao-Hui Li and Zhi Lin and Leonard K. M. Poon and Caleb Chen Cao and Nevin L. Zhang},
journal= {arXiv preprint arXiv:2306.06339},
year = {2023}
}
备注
To appear at UAI 2023