基于自然图像统计的采样改进局部代理解释器

计算机视觉中的许多问题近来由预测难以解释的模型（最常见为深度神经网络）处理。代理解释器是一种流行的事后可解释性方法，用于进一步理解模型如何得出特定预测。通过训练一个简单的、更具可解释性的模型来局部近似不可解释系统的决策边界，我们可以估计输入特征对预测的相对重要性。聚焦于图像，代理解释器（例如 LIME）通过在可解释域中采样，在查询图像周围生成局部邻域。然而，这些可解释域传统上仅从查询图像的内在特征导出，未考虑不可解释模型在训练中接触到的数据流形（或更一般地，真实图像的流形）。这导致在潜在低概率图像上训练的代理次优。我们通过将代理所训练的局部邻域与原始训练数据分布对齐来解决此局限，即便该分布不可访问。我们提出两种实现方法，即（1）改变采样局部邻域的方法，以及（2）使用感知度量传达自然图像分布的一些属性。