基于量化的事后解释方法

在本文中，我们提出了一种称为基于量化的事后解释（PIQ）的新方法，用于解释训练好的分类器所做的决策。我们的方法利用向量量化将分类器的表示转换为离散的、特定于类别的潜在空间。特定于类别的码本充当瓶颈，迫使解释器聚焦于分类器认为与做出预测相关的输入数据部分。我们的模型公式还能够通过结合预训练标注模型（如最先进的图像分割模型）的监督来学习概念。我们通过涉及黑白图像、彩色图像和音频的定量与定性研究评估了我们的方法。这些研究的结果表明，与文献中其他几种解释方法相比，PIQ 生成的解释在我们的用户研究参与者中更容易被理解。