MAGIX：模型无关的全局可解释解释
人工智能
2018-06-18 v3
摘要
在实例层面解释黑箱机器学习模型的行为有助于建立信任。然而，理解模型在全局层面的行为同样重要。这种理解能让我们洞察模型训练所依据的数据及其学到的模式。本文提出了一种方法，通过学习if-then规则来全局解释用于解决分类问题的黑箱机器学习模型的行为。该方法首先提取在实例层面重要的条件，然后通过具有适当适应度函数的遗传算法演化规则。这些规则共同代表了模型用于决策的模式，有助于理解其行为。我们通过解释使用公开可用数据集以及一个私有数字营销数据集创建的黑箱模型，证明了该方法的有效性和实用性。
引用
@article{arxiv.1706.07160,
title = {MAGIX: Model Agnostic Globally Interpretable Explanations},
author = {Nikaash Puri and Piyush Gupta and Pratiksha Agarwal and Sukriti Verma and Balaji Krishnamurthy},
journal= {arXiv preprint arXiv:1706.07160},
year = {2018}
}