黑盒分类器的信息论视觉解释
计算机视觉与模式识别
2021-07-19 v2
摘要
在这项工作中，我们尝试从信息论视角解释任意黑盒分类器的预测。对于每个输入特征，我们使用两个信息论度量比较有和无该特征时的分类器输出。据此，我们得到两张归因图——信息增益（IG）图和点互信息（PMI）图。IG 图提供与类别无关的“每个像素的信息量有多大？”的答案，PMI 图提供“每个像素在多大程度上支持某一特定类别？”的类别相关解释。与现有方法相比，我们的方法在定量度量上提升了归因图的正确性。我们还使用所提方法对 ImageNet 分类器进行了详细分析，代码已在线提供。
引用
@article{arxiv.2009.11150,
title = {Information-Theoretic Visual Explanation for Black-Box Classifiers},
author = {Jihun Yi and Eunji Kim and Siwon Kim and Sungroh Yoon},
journal= {arXiv preprint arXiv:2009.11150},
year = {2021}
}