McXai：将局部模型无关解释建模为两个博弈

迄今为止，已引入多种为黑盒机器学习模型提供局部可解释性的方法。遗憾的是，所有这些方法都存在以下一种或多种缺陷：它们自身难以理解，它们基于逐特征方式工作而忽略特征间依赖关系，和/或它们仅关注那些支持模型所作决策的特征。针对这些问题，本工作引入一种基于强化学习的方法，称为可解释人工智能的蒙特卡洛树搜索（McXai），用于解释任意黑盒分类模型（分类器）的决策。我们的方法利用蒙特卡洛树搜索，并将生成解释的过程建模为两个博弈。在一个博弈中，通过寻找支持分类器决策的特征集来最大化奖励；而在第二个博弈中，通过寻找导致替代决策的特征集来最大化奖励。结果是一种对人友好的树结构表示，其中每个节点代表一组待研究的特征，树的顶部为较小的解释。我们的实验表明，与LIME和SHAP等经典方法相比，我们的方法所发现的特征在分类方面更具信息量。此外，通过识别误导性特征，我们的方法能够在许多情况下引导提升黑盒模型的鲁棒性。