基于显著性模型解释的图形感知
计算机视觉与模式识别
2024-06-13 v1
摘要
近年来，大量工作致力于解释基于深度学习的预测模型，以及如何评估这些解释。一个重要的评估方法类别是以人为中心的方法，这些方法通常需要通过可视化来传递解释。尽管可视化在感知和理解模型解释方面发挥着关键作用，但可视化设计如何影响人们对解释的感知仍不完全了解。在本工作中，我们研究了模型解释的图形感知，具体是针对视觉识别模型的显著性基于解释。我们提出一种实验设计来探讨人类感知如何受到可视化设计的影响，其中我们研究了对齐评估任务，即显著性图是否与图像中的物体对齐。我们的发现表明，与可视化设计决策有关的因素、对齐类型的特征，以及显著性图的质量，都在人们感知基于显著性的视觉解释方面发挥重要作用。
引用
@article{arxiv.2406.07702,
title = {Graphical Perception of Saliency-based Model Explanations},
author = {Yayan Zhao and Mingwei Li and Matthew Berger},
journal= {arXiv preprint arXiv:2406.07702},
year = {2024}
}