基于线性模型树的准确且直观的上下文解释方法

随着复杂机器学习模型在金融领域关键应用中的使用不断增加，解释模型的决策已成为一种必要。从信用评分到信用营销，这些模型的影响不可否认。在可解释这些复杂模型决策的多种方式中，局部后验模型无关解释已获得大量采用。这些方法允许在独立于训练所用建模技术的情况下解释每一次预测。作为解释，它们要么给出个体特征归因，要么提供代表做出某预测所需条件的充分规则。当前最先进的方法使用 rudimentary 方法在待解释点周围生成合成数据，随后拟合简单线性模型作为代理以获得预测的局部解释。本文中，我们力求在生成解释的方法与所产生解释的性质两方面均显著改进。我们使用生成对抗网络(Generative Adversarial Network, GAN)进行合成数据生成，并训练以线性模型树形式的分段线性模型作为代理模型。除个体特征归因外，我们还通过利用代理模型的结构与性质为解释提供伴随的上下文。