样本选择对解释至关重要：通过最大化解释确定性构建可信视觉模型解释分析基石

图像解释分析旨在突出视觉模型所学习的特征表示，以便突出显示的特征图能够反映输入像素的重要性。梯度积分是通过积分来自多个派生样本的梯度以突出显示与推断相关的语义特征的解释分析中的一个基石。这种基石通常与视觉模型的其他信息（如激活图或注意力图）结合以形成最终解释。然而，我们的理论分析表明，梯度积分中样本分布与自然图像分布的对齐程度给出了解释确定性的下界。先前的工作将噪声添加到图像中作为样本，噪声分布可能导致低解释确定性。反直觉的是，我们的实验表明，额外信息会饱和神经网络。为此，构建可信的解释分析需要解决样本分布错位问题。我们提出了一种半最优采样方法，通过抑制输入特征来实现，这种采样方法的样本分布大致等于自然图像的分布。我们在ImageNet大规模数据集上进行了广泛的定量评估，确认了该方法的有效性，并能够相对于最先进的基线在所有实验模型中产生更令人满意的解释。