在基于自编码器的 LIME 中使用决策树作为局部可解释模型

如今，深度神经网络因其高准确率结果而被应用于许多领域。然而，它们被视为“黑箱”，即对人类而言不可解释。另一方面，在医疗、经济和自动驾驶等某些任务中，用户希望模型是可解释的，以判断他们是否可以信任这些结果。在这项工作中，我们提出了一种基于自编码器的局部可解释方法 ALIME 的改进版本。ALIME 本身受一种称为局部可解释模型无关解释（LIME）的著名方法启发。LIME 通过在实例周围生成新数据并训练局部线性可解释模型来生成单实例级别的解释。ALIME 使用自编码器对样本周围的新数据进行加权。尽管如此，ALIME 与 LIME 一样，使用线性模型作为局部训练的可解释模型。本工作提出了一种新方法，使用决策树代替线性模型作为可解释模型。我们在不同数据集上从稳定性、局部保真度和可解释性方面评估了所提出的模型。与 ALIME 相比，实验在稳定性和局部保真度上显示出显著结果，并在可解释性上有所改进。