通过在隐特征空间学习图像样例解释黑箱模型
计算机视觉与模式识别
2020-02-11 v1 机器学习
摘要
我们提出一种解释图像分类黑箱模型决策的方法。在利用黑箱标注图像的同时,我们的解释方法利用了通过对抗自编码器学习到的隐特征空间。所提方法首先在隐特征空间中生成样例图像并学习决策树分类器。然后,它选取并解码遵循局部决策规则的样例。最后,它以向用户展示样例如何被修改以要么保留在其类别内、要么通过“变形”为另一类而成为反事实的方式将其可视化。由于我们关注图像分类的黑箱决策系统,从样例获得的解释还提供显著图,高亮贡献于其分类的图像区域,以及将其推入另一类的图像区域。我们在三个数据集与两个黑箱模型上给出实验评估结果。除提供最有用且可解释的解释外,我们表明所提方法在保真度、相关性、一致性与稳定性方面优于现有解释器。
引用
@article{arxiv.2002.03746,
title = {Black Box Explanation by Learning Image Exemplars in the Latent Feature Space},
author = {Riccardo Guidotti and Anna Monreale and Stan Matwin and Dino Pedreschi},
journal= {arXiv preprint arXiv:2002.03746},
year = {2020}
}