LIMEtree：多类别的一致且忠实的替代解释

可解释人工智能提供了更好理解预测模型及其决策的工具，但许多此类方法仅限于针对单一类别产生洞察。当为多个类别生成解释时，由于它们可能呈现相互竞争或矛盾的证据，对其推理以获得全面视图可能十分困难。为应对这一挑战，我们引入了多类别解释这一新颖范式。我们概述了此类技术背后的理论，并提出了一种基于多输出回归树的局部替代模型——称为 LIMEtree——它为单个预测提供多个类别的忠实且一致的解释，同时具有事后、模型无关和数据通用的特性。除了强保真度保证外，我们的实现提供了多种解释类型，包括文献中偏好的反事实陈述。我们通过可解释性期望的定量实验和一项试点用户研究，在图像和表格数据分类任务上将其与最先进的替代解释器 LIME 进行比较来评估我们的算法。我们的贡献展示了多类别解释的优势以及我们的方法在多样化场景中的广泛优势。